技術 在 Windows 上編譯 llama.cpp 專案

最近接觸到要將 LLM 放在 Windows 筆電上運行的案子，需對 llama.cpp 做一些自訂選項的編譯，因此無法直接拿 GitHub 上的 Releas...

技術 LLM Note Day 10 - 建立開發環境

簡介 建立深度學習的開發環境說是一場惡夢也不為過，無論是開發應用還是訓練模型，都有各自的大坑要踩。就算一開始環境都弄的好好的，也有可能用一陣子之後自己突然爆炸。...

技術 GPU程式設計(5) -- Python

前言 前面我們介紹C++的使用，有些讀者可能會希望使用Python撰寫(包括我)，因此，我們就來看看 PyCuda 這個套件的用法。 PyCuda 安裝及文件...

技術 GPU程式設計(3) -- 矩陣運算

前言 GPU卡原來是針對遊戲開發及顯示加速的設計的，後來才擴散至挖礦、深度學習...等其他領域，而遊戲內的物件移動、旋轉都是依靠矩陣運算達成的，因此，我們就來看...

技術 GPU程式設計(4) -- 記憶體管理

GPU記憶體類別 GPU記憶體類別有非常多種，各有所長，如果善用可進一步提升執行效能，參考下圖：圖一. GPU記憶體類別，圖片來源：『CUDA Tutorial...

技術 GPU程式設計(2) -- 多執行緒

前言 GPU可以利用平行處理的方式，縮短執行時間，因此，這一次就來介紹多執行緒的程式設計方法及應用。 多執行緒的設定 上一篇 介紹GPU函數的設定是透過<...

技術 GPU程式設計(1) -- Hello CUDA !

前言 CUDA Toolkits 是 NVIDIA GPU 卡的程式工具箱，可呼叫相關函數，在GPU卡上進行相關數學運算，尤其是張量(Tensor)，常用於圖形...

技術 [Python] Tensorflow with GPU

使用Python 做機器學習/深度學習時常使用的Tensorflow還有分成CPU版本與GPU版本。常常安裝時容易在小細節碰壁，今天就把安裝過程簡單紀錄。 建立...

技術 [分享不分大小事]不分軟硬加演-第20篇 開工業繪圖卡、測在Windows7與Vista，64位元作業系統下的效能！

這篇是同事友情贊助（看我鐵人30分享走火入魔了吧！）、說差一篇就滿50篇了（30+20），說服我再發表這一篇、開箱與Windows7-64下的測試與作業由我來做...

技術 [分享不分大小事]不分軟硬加演-第19篇 實驗證明、有效有效！

網路上也好、雜誌上也罷，討論批評還有質疑、加上秘方加工（像拋光、甚至磨地板），就是要看看到底「塗不塗散熱膏對降溫有沒有效」，鐵人賽寫到這裡腦袋已經是混沌一遍、就...

技術 [分享不分大小事]不分軟硬加演-第18篇 AMD的反擊、痛批對手支援能力不足，AMD才是Windows7最佳平台！

Windows7已經上市兩週多了，以為大概一切就是這樣了，沒想到月初有機會參加AMD的活動，看到AMD砲火猛烈的直指對手不是全系列都能支援Windows7的XP...

技術 [分享不分大小事]不分軟硬加演-第17篇 在超頻的年代、不超會對不起荷包如何超的又穩又快？AfterBurner你了嗎？

哈哈～！別怕別怕、不是要您花大錢買後燃器啦！也不是要您砸錢買高級的顯示卡冷卻系統來超頻啦！ 是國內版卡大廠微星（MSI）配合ATi Radeon 5000系列推...

技術 [分享不分大小事]不分軟硬加演-第9篇 免費送支援DX-11遊戲的消息一定要跟大家分享！

這是廠商刊登在PC-DiY的新聞稿（已經知道的人就跳過吧！），之前有邦友擔心即使支援DX-11的ATi-5870/5850顯卡上市、也沒有支援DX-11的遊戲可...

技術 [分享不分大小事]不分軟硬加演-第6篇ATi強調不只支援Win7更強調支援DX11與Eyefinity技術的遊戲同時上市

看了一些資料、發現前一篇「[分享不分大小事]安可加演-第5篇 ATi豈非弱者、Win7上市如虎添翼，力推DX 11與Eyefinity狠打對手二棒」是以「技術面...

技術 [分享不分大小事]不分軟硬加演-第5篇 ATi豈弱者、Win7上市如虎添翼，力推DX11與Eyefinity狠打對手二棒

之前介紹過Windows7所力推的全新的GPU運算應用程式介面-DirectCompute技術，還記得這一篇嗎？？[分享不分大小事]不分軟硬三十篇-第29篇 W...

技術 [分享不分大小事]不分軟硬三十篇-第29篇 Win7採用全新的GPU運算應用程式介面-微軟DirectCompute技術

留意到ATi與Nvidia兩家顯卡大廠最近推出的顯示卡（不管是ATi Radeon HD5870 還是 Nvidia GeForce GTX 295）都有強調一...