跑大語言模型的時候,你是不是一邊盯著終端機、一邊祈禱顯存不要爆掉?
本篇聚焦 安裝步驟 與 動態顯示 VRAM 的實戰做法,讓你即時看見顯存水位,避免 OOM...
影片連結:https://www.youtube.com/watch?v=tj_g5KvTqwEYouTube 頻道:https://www.youtube....
今天接續把這篇研究說完
昨天在實驗(一)有提到,團隊認為原本的大海撈針測試太簡單了。於是有再設計幾個需要思考、推論的方法來測試模型是否能找出正確答案。
升級版的...
前言:江湖中的兩大兵器
在數據的江湖中,要存取和操作數據,你需要稱手的兵器。其中最經典、流傳最廣的,莫過於 SQL (結構化查詢語言)。然而,隨著大數據和 AI...
大家晚安!又是我拉~前幾天我們主要聚焦在一些在寫程式時會用倒的一些技巧,主要就是方便後續在處理資料上面會比較方便且不容易出錯,雖然現在可能看不太出來它的用處 但...
昨天我們在技能樹上看了 AI → ML → DL 的大地圖,今天就要實際走進 機器學習村 (ML Village) 和 深度學習村 (DL Village) 參...