2026 iThome 鐵人賽

AI Engineering

Day 9

2026-08-22

10

0

128GB 統一記憶體的三十天：DGX Spark 地端 LLM 與生成式 AI 部署實戰系列

Day 9｜vLLM 實測：官方容器、並發吞吐曲線，與剛出爐的新模型 Ornith 1.5

換引擎：從單人工作站到多人服務器背靠背文章的第二篇，昨天 llama.cpp 給了我們單用戶場景的基準線。今天換上 vLLM，這個引擎的存在理由只有一個字，...

ivanusto

AI Engineering

Day 6

2026-08-22

22

0

一行 torch.compile 背後發生了什麼？30 天深度拆解 PyTorch 編譯器系列

Day 6 | TorchDynamo 的高速驗票員：Guard

前言 Day 4 說 InstructionTranslator 翻譯時會「順手記下這張圖的前提」，Day 5 說 bake 常數的代價「由 Guard 記帳」...

guan404ming

團隊源來適愛開緣

AI Engineering

Day 22

2026-08-22

28

0

讓 AI Agent 真的做事：用 Embabel 打造可控、可測試的智慧 Dashboard 系列

Day 22：先把畫面骨架搭起來

不是巢狀 JSX，而是 root + elements map。當工程師開始設計 Generative UI 時，第一個直覺反應通常是：「前端 DOM 本來...

凱文大叔

AI Engineering

Day 6

2026-08-22

29

0

模型之外：30 天搞懂 AI Infrastructure 系列

Day 6 | Apache Arrow 與 Zero-Copy 到底在解決什麼？

上一篇我們從儲存格式理解 Parquet。透過 columnar layout、row group、column chunk、encoding 與 compre...

Vic

團隊源來適愛開緣

AI Engineering

Day 22

2026-08-22

28

0

生活中的 AI 應用：我在家用 NAS 養了一隻 Agent，幫我看盤、顧家、盯備考——30 天自架實錄系列

Day 22：睡一覺醒來，我的 AI 刷了 $40 美金

2026 年 5 月 4 日，早上七點多。我半睜著眼滑手機，看到一封 API 服務商的費用通知。過去 24 小時：約 $40 USD。 $40 是我平常好幾個...

Scrat

AI Engineering

Day 15

2026-08-22

32

0

賢者大叔的觀測結界：讓 agent 推理得動的 30 天系列

Day15：兩條平行線接起來

一個回傳空集合的檢查可能是在說「沒有問題」也可能是在說「我根本沒讀到」而這兩句話印出來一模一樣昨天把那張宣告的拓撲跟 Tempo 裡真的看得到的呼叫關係對...

雷N