2026 iThome 鐵人賽

AI Engineering

Day 14

2026-08-19

120

0

讓 LLM 不只會回答，還會查證：打造 Agentic RAG 智慧知識助理系列

Day 14｜實作 Semantic Search：用語意而不是關鍵字找資料

零件已經到齊：Day 12 選定了 multilingual-e5-small，Day 13 把向量安置進 Qdrant，Day 10 的評測集在旁邊等著計分。...

Alan

AI Engineering

Day 5

2026-08-18

376

0

128GB 統一記憶體的三十天：DGX Spark 地端 LLM 與生成式 AI 部署實戰系列

Day 5｜NFS 模型庫實戰：下載工具、權限設計與版本管理

倉庫已完善，模型下載與怎樣才能讓地端 AI 跑起來的實作 Day 3 規劃了集中模型庫的架構，Day 4 把每個運算節點都掛上了 /mnt/models。今天處...

ivanusto

AI Engineering

Day 4

2026-08-18

107

0

現代化的 AI 系統設計系列

[Day 4] - 需求出現之後，一切都從 Baseline 開始

如果今天要設計一個同時支援售前與售後的電商 AI 客服，你會怎麼設計？這是前一陣子準備外商 System Design 面試時剛好遇到一題，這題很適合拿來當作...

lichin0307

AI Engineering

Day 7

2026-08-18

150

0

不是模型太慢，是你沒算過這筆帳：地端 LLM 工程實戰 30 天系列

Day 07 - 128GB 只能用 96GB？Mac 統一記憶體的潛規則

昨天結尾丟了一個問題沒答：DeepSeek-V4-Flash 的 3-bit 權重要 104GB，而 M4 Max 有 128GB，看起來剛剛好——真的剛剛好嗎...

oblivionis

AI Engineering

Day 4

2026-08-18

86

0

從零訓練到瀏覽器部署：30 天打造 Atari Breakout 強化學習 AI 系列

Day 4｜AI 看到的，不再只是一張畫面

Day 3 的時候，我們讓 AI 和 Breakout 互動，並拆開了一次遊戲回傳的資料。當時 AI 每次拿到的是一張原始遊戲畫面： 210 × 160 ×...

tommypan

AI Engineering

Day 2

2026-08-18

193

0

GPU很忙？他真的有在做事嗎？系列

Day 2｜GPU 的三種死法：算不動、搬不完，還是在發呆？

昨天那台空車跳表的小黃，我們把它攔了下來。錶還在跳、後座沒人。問題是，為什麼？大部分人遇到 GPU 慢，直覺反應是"不夠力，換張更貴的卡"...

richhuang7420

團隊源來適愛開緣