iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

GPU很忙?他真的有在做事嗎? 系列

gpu很忙?我們要如何解析他是不是真的在忙?
學習gpu kernel , mfu , nccl 等知識
運用nsys-ai 來協助你優化你的gpu體驗!

ref: https://github.com/GindaChen/nsys-ai

參賽天數 22 天 | 共 22 篇文章 | 2 人訂閱 訂閱系列文 RSS系列文 團隊源來適愛開緣
DAY 1

Day 1|GPU 很忙?先了解一下:他在載客,還是在空轉跳表?

深夜的路口,一台小黃停在紅燈前。引擎在轉、跳表在跳、數字一格一格往上加——可是後座沒有人。 你付的每一塊錢,錶都老實記了下來。只是那些錢,沒有把任何人送到任何地...

2026-08-17 ‧ 由 richhuang7420 分享
DAY 2

Day 2|GPU 的三種死法:算不動、搬不完,還是在發呆?

昨天那台空車跳表的小黃,我們把它攔了下來。錶還在跳、後座沒人。問題是,為什麼? 大部分人遇到 GPU 慢,直覺反應是"不夠力,換張更貴的卡"...

2026-08-18 ‧ 由 richhuang7420 分享
DAY 3

Day 3|nvidia-smi 100%?恭喜,你可能還是不知道詳細情況

昨天我一直說 util 假高、那個數字會騙你。今天我們就把它抓來對質。 小黃錶上那個數字跳到 100%,你以為引擎全開了。但它其實只告訴你一件事,錶在跳。它從來...

2026-08-19 ‧ 由 richhuang7420 分享
DAY 4

Day 4|別急著開Agent叫他幫你看,先學會看懂一條時間軸

前三天,我們一直在跟那個跳錶過不去util 100%、SM Active 只有 15%、三種死法,全都是在講同一件事,那支錶不可信。可是光罵錶沒有用,你總得有個...

2026-08-20 ‧ 由 richhuang7420 分享
DAY 5

Day 5|一萬顆 kernel 用眼睛看不完,讓 nsys 自己算給你看

昨天你學會了打開行車記錄器,也認得四條列、會讀三件事。恭喜,你已經比大多數只會看 nvidia-smi 的人強了。 但我得先潑你一盆冷水。用眼睛看,撐不了多久。...

2026-08-21 ‧ 由 richhuang7420 分享
DAY 6

Day 6|自己按下錄影鍵,紀錄運行的過程

Day 4 跟 Day 5,你一直在看"別人給的"那份錄影,用眼睛讀、用工具量。今天,我們把攝影機轉過來,對準你自己那支 job。 裝行車記...

2026-08-22 ‧ 由 richhuang7420 分享
DAY 7

Day 7|profile 肥到打不開?圈三個 iteration 就夠

小黃的行車記錄器跑一整班十二個小時,真正會被調出來看的,永遠只有出事前後那三十秒。剩下的每一分鐘都不是證據,是佔硬碟的背景雜音。錄影這件事從來不是錄越多越專業,...

2026-08-23 ‧ 由 richhuang7420 分享
DAY 8

Day 8|給 timeline 長嘴巴,讓每段 bar 報上名來

半夜調行車記錄器出來看,路面、車流、紅綠燈拍得一清二楚,偏偏整段畫面沒有一塊路牌。你知道車一直在開,就是說不出這是哪條路、哪個路口。看得到動作,對不上地圖。 說...

2026-08-24 ‧ 由 richhuang7420 分享
DAY 9

Day 9|容器裡錄不到?不是你不會按快門,是門沒開

港口的規矩跟馬路上不一樣。你的車開進貨櫃,行車記錄器隔著鐵皮什麼都拍不到;海關不點頭,設備連開機都不給你開。在這裡,錄不到影從來不是技術問題,是通關問題。 說白...

2026-08-25 ‧ 由 richhuang7420 分享
DAY 10

Day 10|profile 到手,先體檢照表操課

開小黃的都知道,身體是本錢,我每年乖乖去做一次健檢。報到、抽血、量血壓、照超音波,流程固定,半小時走完,報告直接告訴你哪裡紅字、該掛哪一科。醫生不會一見面就把你...

2026-08-26 ‧ 由 richhuang7420 分享