2026 iThome 鐵人賽

AI Engineering

Day 3

2026-08-03

462

0

讓 LLM 說話有憑有據：打造 RAG 知識助理系列

Day 3｜LLM 到底知道什麼？Token、Context 與知識限制

上一篇文章，我們替這個系列畫出清楚的範圍：要打造的是一個以繁體中文 Markdown 技術文件為知識來源，能夠回答技術問題、引用相關內容，並在資料不足時拒答的...

Alan

AI Engineering

Day 6

2026-09-19

462

0

當 AI 加入團隊：打造可審查、可驗證、會自我改善的 AI 開發工作流系列

EP 06 - 先教 AI 怎麼寫，再要求它寫得快

Hello, 各位 iT 邦幫忙的粉絲們大家好~~~ 這系列文源自這幾年在團隊裡導入 AI Coding 之後，一路踩雷、修正、再踩雷的真實過程。把這些收斂...

James Tsai

AI Engineering

Day 6

2026-09-06

462

0

GitHub Copilot SDK 實戰：從 Agent 應用到可部署服務系列

Day 06 - 理解 Agent Loop：Turn、工具呼叫與完成訊號

Session 讓具有前後關係的互動可以維持在同一個工作階段中，後續訊息也能延續已經累積的對話與工作脈絡。不過，當應用程式送出一則訊息後，Agent 不一定只呼...

Kevin Wang

AI Engineering

Day 6

2026-09-20

462

0

30 天打造 Codebase Intelligence Agent：從程式碼檢索、結構化索引到變更影響分析實戰系列

Day 6:掃 repository 前先學會閉眼：排除規則與過濾實作

昨天我們在 CodebaseAnalyzer 中建立了路徑邊界防禦與專案骨架。今天我們要進入下一步：讓分析引擎真正遍歷專案檔案。最直覺的寫法通常長這樣： fo...

__zoe

團隊 nutc imac

AI Engineering

Day 19

2026-08-30

461

0

不是模型太慢，是你沒算過這筆帳：地端 LLM 工程實戰 30 天系列

Day 19 - 1,792 GB/s 的 5090 對 1,200 GB/s 的 M5 Ultra：為什麼帳面 decode 上界只差 6%？

同一份 100 頁 PDF、同一個問題，丟給地端模型要等一兩分鐘，送到雲端幾秒就開始回答。最常聽到的解釋是「雲端 GPU 比較快」。這句沒錯，但太粗，粗到不...

oblivionis

AI Engineering

Day 5

2026-08-16

460

0

不是模型太慢，是你沒算過這筆帳：地端 LLM 工程實戰 30 天系列

Day 05 - Q4_K_M 是規格，不是品質保證：同名量化檔，KL 散度可以差近 3 倍

昨天我們把模型名字拆成六個欄位，搞清楚了 35B-A3B 到底是 35B 還是 3B。檔名最後一段 Q4_K_M.gguf 我故意留到今天，因為它值得一整篇——...

oblivionis