2026 iThome 鐵人賽

AI Engineering

Day 6

2026-08-19

395

0

128GB 統一記憶體的三十天：DGX Spark 地端 LLM 與生成式 AI 部署實戰系列

Day 6｜推論引擎總覽：llama.cpp、vLLM、TensorRT-LLM 、Ollama、DS4 與 Unsloth 的定位與取捨

同一顆模型，四種跑法模型庫就緒之後，下一個問題是用什麼東西才能跑把地端 AI 模型跑起來呢。這個東西就叫做推論引擎，它負責把權重載入記憶體、排程運算、管理...

ivanusto

AI Engineering

Day 5

2026-08-19

170

0

現代化的 AI 系統設計系列

[Day5] - 不是模型不知道就做 RAG，你需要的可能是先找對 Source of Truth

延續昨天用電商 AI 客服的案例，從最小 Baseline 開始拆 System Design。如果使用者問「跑步鞋和休閒鞋有什麼差別？」這是一個通用知識問題...

lichin0307

AI Engineering

Day 8

2026-08-19

178

0

不是模型太慢，是你沒算過這筆帳：地端 LLM 工程實戰 30 天系列

Day 08 - 一大票顯卡對比文都算錯了：M4 Max 對 4070 Ti、5090 與 RTX PRO 6000

昨天結尾說「萬事俱備」。W1 磨的尺、認的模型、摸清的記憶體線，今天全部上場：同一顆模型，MacBook 與 4070 Ti 誰快？動手之前你八成會先 Goo...

oblivionis

AI Engineering

Day 19

2026-08-19

170

0

買錯保險的血淚教訓：我用 Python + AI Agent 重構人生財務防禦系統系列

Day 19 — 保單斷捨離：實作 /insurance-review 核心指令

前情提要：昨天我們建立好了兩階段的 PDF 保單解析管道。本日目標：今天要正式實作 /insurance-review 指令，讓 AI 運用先前的所有知識（財...

dandanisgood

AI Engineering

Day 17

2026-08-19

152

0

《30 天從零拆解 AI Agent：從 Tool Calling 到多 Agent 協作》系列

【AI Agent 17】每個 Agents 都做完自己那份了，最後誰負責兜起來？－ Multi-Agent Coordination

前一天我們談 Worktree Isolation。現在每個 Agent 已經可以有：自己的 Task 自己的 Context 自己的 Permissio...

hardness1020

AI Engineering

Day 16

2026-08-19

170

0

知識圖譜 : 技能樹式學習歷程系列

Day 16 — 徹底離線：自架 MathJax + PWA

今天要解的問題這個網站有兩個外部依賴： <link href="https://fonts.googleapis.com/css2?famil...

Eyk

團隊這不薄冰哥嗎