2026 iThome 鐵人賽

AI Engineering

Day 10

2026-08-23

521

0

128GB 統一記憶體的三十天：DGX Spark 地端 LLM 與生成式 AI 部署實戰系列

Day 10｜TensorRT-LLM 實測：我花了一個下午，跟它的預設值搏感情

前情提要：兩個引擎各贏一半先把前兩天的戰況說明一下，因為要對齊的緣故，因此基準測試我都先用同一款模型 gpt-oss-120b、同一套提示詞，llama.c...

ivanusto

AI Engineering

2026-09-13

519

0

128GB 統一記憶體的三十天：DGX Spark 地端 LLM 與生成式 AI 部署實戰系列

Day 31（番外篇）｜NVIDIA PAIR：合體與分工合作之外，第三種用法值不值得付 Ollama 稅

為什麼要多寫一天 Day 27 把雙機的兩種用法測試完了，雙機合體換到一個 2.44 倍的主力，分工合作時換到三款模型同時活著，切換則需要 40 分鐘。IFA...

ivanusto

AI Engineering

Day 4

2026-08-04

515

0

讓 LLM 說話有憑有據：打造 RAG 知識助理系列

Day 4｜建立知識庫：從 Markdown 文件到可處理資料

上一篇文章，我們討論了 LLM 的知識來源、Token 與 Context，也確定 RAG 不是把整個知識庫塞進 Prompt，而是先找到與問題相關的內容，再交...

Alan

AI Engineering

Day 2

2026-09-02

515

0

GitHub Copilot SDK 實戰：從 Agent 應用到可部署服務系列

Day 02 - 認識 GitHub Copilot SDK：應用程式如何接入 Agent Runtime

如果使用者只需要摘要或單一問題的答案，應用程式通常送出 Prompt、等待模型回應即可。但當任務變成「檢查專案的登入流程，找出問題並完成修正」，Agent 可能...

Kevin Wang

AI Engineering

Day 3

2026-08-05

505

1

《30 天從零拆解 AI Agent：從 Tool Calling 到多 Agent 協作》系列

【AI Agent 03】模型說它要用工具，那到底是誰去執行的？－ Tool Runtime

前兩天我們先拆開了兩個核心概念。 Day 1 說明：模型（LLM）負責判斷，Harness 負責讓判斷可以被執行、觀察與限制。 Day 2 則把 Agen...

hardness1020

AI Engineering

Day 1

2026-08-01

497

1

讓 AI Agent 真的做事：用 Embabel 打造可控、可測試的智慧 Dashboard 系列

Day 01：先把路鋪好：30 天把兩個技能串成一個專案

Embabel 的起點，為什麼要把 AI 關在可控邊界內今天要解決的問題這 30 天到底要做什麼為什麼企業系統不能把流程全交給 AI 自由發揮後端...

凱文大叔