gpu很忙?我們要如何解析他是不是真的在忙?
學習gpu kernel , mfu , nccl 等知識
運用nsys-ai 來協助你優化你的gpu體驗!
ref: https://github.com/GindaChen/nsys-ai
深夜的路口,一台小黃停在紅燈前。引擎在轉、跳表在跳、數字一格一格往上加——可是後座沒有人。 你付的每一塊錢,錶都老實記了下來。只是那些錢,沒有把任何人送到任何地...
昨天那台空車跳表的小黃,我們把它攔了下來。錶還在跳、後座沒人。問題是,為什麼? 大部分人遇到 GPU 慢,直覺反應是"不夠力,換張更貴的卡"...
昨天我一直說 util 假高、那個數字會騙你。今天我們就把它抓來對質。 小黃錶上那個數字跳到 100%,你以為引擎全開了。但它其實只告訴你一件事,錶在跳。它從來...
前三天,我們一直在跟那個跳錶過不去util 100%、SM Active 只有 15%、三種死法,全都是在講同一件事,那支錶不可信。可是光罵錶沒有用,你總得有個...
昨天你學會了打開行車記錄器,也認得四條列、會讀三件事。恭喜,你已經比大多數只會看 nvidia-smi 的人強了。 但我得先潑你一盆冷水。用眼睛看,撐不了多久。...
Day 4 跟 Day 5,你一直在看"別人給的"那份錄影,用眼睛讀、用工具量。今天,我們把攝影機轉過來,對準你自己那支 job。 裝行車記...
小黃的行車記錄器跑一整班十二個小時,真正會被調出來看的,永遠只有出事前後那三十秒。剩下的每一分鐘都不是證據,是佔硬碟的背景雜音。錄影這件事從來不是錄越多越專業,...
半夜調行車記錄器出來看,路面、車流、紅綠燈拍得一清二楚,偏偏整段畫面沒有一塊路牌。你知道車一直在開,就是說不出這是哪條路、哪個路口。看得到動作,對不上地圖。 說...
港口的規矩跟馬路上不一樣。你的車開進貨櫃,行車記錄器隔著鐵皮什麼都拍不到;海關不點頭,設備連開機都不給你開。在這裡,錄不到影從來不是技術問題,是通關問題。 說白...
開小黃的都知道,身體是本錢,我每年乖乖去做一次健檢。報到、抽血、量血壓、照超音波,流程固定,半小時走完,報告直接告訴你哪裡紅字、該掛哪一科。醫生不會一見面就把你...