2026 iThome 鐵人賽

AI Engineering

Day 26

2026-09-08

399

0

128GB 統一記憶體的三十天：DGX Spark 地端 LLM 與生成式 AI 部署實戰系列

Day 26｜微調的最後一哩路：合併、轉檔、量化、上線

訓練好的模型不一定能用昨天訓練出一個 adapter，304 MiB，掛在 4-bit 底模上用 Unsloth 推論是成功的，但它的那個狀態離掛進閘道給大...

ivanusto

AI Engineering

Day 11

2026-09-11

395

0

GitHub Copilot SDK 實戰：從 Agent 應用到可部署服務系列

Day 11 - 圖片輸入實戰：將視覺內容帶入 Session

前兩篇分別透過自訂工具與 MCP，讓 Agent 可以取得應用程式或外部服務提供的能力。當任務需要處理 UI 截圖、錯誤畫面、設計稿或架構圖時，限制開始出現在輸...

Kevin Wang

AI Engineering

Day 22

2026-09-04

392

0

128GB 統一記憶體的三十天：DGX Spark 地端 LLM 與生成式 AI 部署實戰系列

Day 22｜語意錨點對上 prefix cache，FreeToken VS vLLM，以及三個關於統一記憶體的教訓

今天原本要做的，和實際做的有差喔昨天預告的是一場對決，vLLM 的 prefix cache 對上 FreeToken 的語意錨點快取，用三天累積的真實 a...

ivanusto

AI Engineering

Day 17

2026-08-30

390

0

128GB 統一記憶體的三十天：DGX Spark 地端 LLM 與生成式 AI 部署實戰系列

Day 17｜ds4 深度解析：Redis 之父只為一種模型造了一個引擎

從通則到特例昨天講選型方法論，五個問題幫你在眾多模型裡挑一個。今天講一個把整套邏輯推到極端的特例，如果你已經知道自己要的就是那一款模型，接下來的問題就變成，...

ivanusto

AI Engineering

Day 1

2026-08-01

390

1

買錯保險的血淚教訓：我用 Python + AI Agent 重構人生財務防禦系統系列

Day 1 — 為什麼我想做「第一次買保險的人」的 AI 工具

前情提要：這是《30 天打造 AI Financial Planner》系列的第一天！本日目標：確立專案定位、說明個人動機，並預告這 30 天我們將一起打造出...

dandanisgood

AI Engineering

Day 5

2026-08-05

388

0

Backend 工程師的 Azure GenAI 實戰系列

Day 5：第一個 Chat API——不是把 SDK 包起來，是決定上游到你為止

把 Day 4 的 wrapper 接上 POST /chat，五分鐘就能寫完：handler 收 message、丟給 SDK、把回傳塞進 JSON。所以今天...

Kehao