2026 iThome 鐵人賽

AI Engineering

Day 12

2026-08-25

550

0

128GB 統一記憶體的三十天：DGX Spark 地端 LLM 與生成式 AI 部署實戰系列

Day 12｜量化格式解析：「4-bit」兩個字，古今多少事 ? 都付笑談中

從昨天那 19% 說起 Day 11 的同場加映，是提到近期一直很熱門的 Ollama 這款地端 AI 推論引擎平台，當時給了大家一個問題，兩款都叫 MXFP...

ivanusto

AI Engineering

Day 9

2026-08-09

545

0

Backend 工程師的 Azure GenAI 實戰系列

Day 9：Token Budget 與成本治理——別估算，計帳；別事後心痛，事前拒絕

LLM 後端最常見的成本事故不是單價貴，是沒有任何一層在花錢之前說不：一個迴圈重試、一段失控的長回覆、一場沒人記得關的對話，帳單月底才告訴你。今天要把成本從「月...

Kehao

AI Engineering

Day 30

2026-09-12

539

0

128GB 統一記憶體的三十天：DGX Spark 地端 LLM 與生成式 AI 部署實戰系列

Day 30｜三十天製作了一張可複製的地端 AI 藍圖

從一台開箱的 GB10 機器開始 8 月 14 日 Day 1 寫下「2026 年是地端 AI 部署元年」的時候，也順便提供了 AI 相關名詞的懶人包，當天重...

ivanusto

AI Engineering

Day 1

2026-09-01

532

0

GitHub Copilot SDK 實戰：從 Agent 應用到可部署服務系列

Day 01 - 前言：為什麼要用 GitHub Copilot SDK 開發 Agent 應用？

這幾年，AI 已逐漸進入各種產品與工作流程。聊天機器人、文件摘要、程式碼生成與工作流程自動化，對多數開發者來說都已不算陌生。不過，當 AI 真正接進產品或內部系...

Kevin Wang

AI Engineering

Day 6

2026-09-20

530

1

從零打造情感感知 Agentic System：FSM 狀態機與 RAG 的整合實作系列

Day 06：【靈魂注入1】告別 Prompt 提示詞！使用 System Instruction 與 Chats 物件烙印角色人格

介紹前幾天我們順利把 Streamlit UI 與 Firestore 長期記憶庫成功串接，但目前的 system_instruction 還只是簡短的一句話...

godlichen

團隊 nutc imac

AI Engineering

Day 3

2026-08-03

524

0

Backend 工程師的 Azure GenAI 實戰系列

Day 3：FastAPI + uv 專案骨架——第一個 commit 就把合約與成本鎖住

新專案的第一個 commit 通常是一個 main.py 加一句 hello world，反正「架構之後再說」。但 Day 2 的三個問題（不確定性隔離在哪、什...

Kehao