鐵人檔案
這系列文章分享我碩一學習 AI compiler 旅程，從 RISC-V CPU、NVIDIA GPU 到 Tenstorrent ASIC ， 觀察 AI compiler 是扮演什麼樣的角色，在不同硬體架構是如何優化。
今天來複習從 Day11 到 Day19，我們從 GPU 硬體出發，認識 CUDA 與幾種 kernel 開發介面，再沿著一個 Triton 矩陣乘法一路打開...
最開始十天都在 RISC-V CPU 上打轉，從 RVV intrinsic、SGLang RVV 後端走到 torch.compile 和 PyTorch I...
昨天先看 Wormhole 的 tile 和 NoC，今天再往下走一層，看 Tenstorrent software stack，最後把焦點放到 TT-Meta...
昨天的 TT-Metal 範例要手動安排 reader、compute、writer、circular buffer 與 NoC synchronization...
前三天看了 Tenstorrent Wormhole 的 tile / NoC、TT-Metal 的 reader /compute / writer，以及 T...
前面幾篇已經把 Tenstorrent 的硬體與軟體拆開來看。Wormhole 把 Tensix cores、local L1、DRAM tiles 與 NoC...
昨天讀完 TileLoom 的 Introduction 和 Framework Overview，今天繼續從 paper Section 2.2 開始，看一個...
前面兩天從論文理解 TileLoom 的 mapping、reuse 與 performance model。接下來想要觀察編譯器產生實際的 IR，看這些概念如...
昨天的 02_explicit_memory_access.mlir 已經有 DRAM、L1 和 loom.copy，但所有 copy 的範圍仍是 [1, 1]...
前兩天已經沿著舊 loom-dataflow standalone pipeline，把同一份 matmul 從 00 帶到 05：Day27 看 fronte...
