鐵人檔案
gpu很忙？我們要如何解析他是不是真的在忙？
學習gpu kernel , mfu , nccl 等知識
運用nsys-ai 來協助你優化你的gpu體驗！
ref: https://github.com/GindaChen/nsys-ai
簽幾天我們把主檔 A 的通訊問題拆完，nsys 的能力也差不多用到邊界了。它能告訴我們：flash_bwd 平均一顆 84 ms、nvjet_tst_192x1...
Day 21 的 ncu 像把儀表接到機器上：它能告訴我們 DRAM throughput、SM throughput 與 warp stall，卻不會逐條列出...
Part D 收官時，四層顯微鏡塔已經蓋完。回頭看這 22 天，每一步判讀都是人工：跑 skill、對口徑、追相依、把兩個工具的輸出擺在一起吵架。一個自然的問題...
Day 23 說 agent 的正確形狀，是「在證據工具上跑內圈」。今天把 nsys-ai 的 agent 拆開看：這個形狀在工程上怎麼實作；以及更重要的，實際...
Day 24 把 nsys-ai agent ask 拆開後，看到它會先執行 skills、保留來源，再用固定格式組裝答案；同時也抓到 full profile...
這次沒有找到被實測直接推翻的說法，但也不能說模型「每一條都答對」。 五個待驗項目裡，只有一項得到完整支持，兩項只能部分支持，另外兩項超出現有 Nsight Sy...
本來的計畫很單純：找一份 Ray Data workload，在 B200 上錄下 .nsys-rep，再用前 26 天建立的方法分析 GPU 到底在算、在搬資...
Ray Data 已經把資料載入交給 CPU operator，GPU actor 也只負責計算，GPU 為什麼還會停下來等？ 排除前一天遇到的 worker...
昨天看到的 Ray Data pipeline，已經把資料載入和 GPU 計算拆成不同 operator。不過，一般 map_batches UDF 收到 Nu...
Day 1 問了一個問題：nvidia-smi 顯示 98% 使用率，那 98% 到底是在載客，還是只是引擎在轉、跳表在跳？三十天過去，這個問題其實一次都沒有離...
