鐵人檔案
gpu很忙？我們要如何解析他是不是真的在忙？
學習gpu kernel , mfu , nccl 等知識
運用nsys-ai 來協助你優化你的gpu體驗！
ref: https://github.com/GindaChen/nsys-ai
簽幾天我們把主檔 A 的通訊問題拆完，nsys 的能力也差不多用到邊界了。它能告訴我們：flash_bwd 平均一顆 84 ms、nvjet_tst_192x1...
Day 21 的 ncu 像把儀表接到機器上：它能告訴我們 DRAM throughput、SM throughput 與 warp stall，卻不會逐條列出...
