iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

從呼叫 API 到打造 Gateway:LLM 工程化 30 天 系列

本系列旨在分享LLM帶進程式使用的過程、概念。前20天分享從API 串接基礎出發,一路談 Prompt Engineering、Context engineering、harness engineering,建立起「怎麼讓 LLM 好好工作」的完整知識骨架;後10天則動手實作,打造一套個人版的 LLM 流量控管系統,完成多廠商API集中管理的gateway、用量監控等。

目標是走到系列結束時,不只學會怎麼「用」LLM,而且有能力把它當作一個可維運的系統元件來設計與實作。

鐵人鍊成 | 共 30 篇文章 | 1 人訂閱 訂閱系列文 RSS系列文 |團隊三隻菜鳥
DAY 21

Day 21|Vibe Coding 的工作流程:先寫需求文件,再讓 AI 動手

Day 21|Vibe Coding 的工作流程:先寫需求文件,再讓 AI 動手 今天開始進到本系列最後的部分了!前面二十天分享的是概念與技巧,接下來則是會記錄...

2026-09-20 ‧ 由 circle1205 分享
DAY 22

Day 22|Provider 管理模組:為什麼要處理不同廠商之間的差異

Day 22|Provider 管理模組:為什麼要處理不同廠商之間的差異 昨天分享了整個 Router 專案的工作方式,先寫需求文件,再讓 AI 動手。今天開始...

2026-09-21 ‧ 由 circle1205 分享
DAY 23

Day 23|資料與安全設計:模型架構與金鑰儲存設計

Day 23|模型架構與金鑰儲存設計 昨天聊了 Provider Adapter 怎麼處理多家廠商的差異。今天要往下一層,聊建立一個模型背後的資料架構,還有 A...

2026-09-22 ‧ 由 circle1205 分享
DAY 24

Day 24|Gateway 與 Fallback:統一入口與雙重容錯

Day 24|Gateway 與 Fallback:統一入口與雙重容錯 昨天聊了模型架構跟金鑰儲存。今天要往上一層,看請求真正送進來的地方——Gateway,還...

2026-09-23 ‧ 由 circle1205 分享
DAY 25

Day 25|健康檢測:如何確定設定的模型可以穩定連線?

Day 25|健康檢測:如何確定設定的模型可以穩定連線? 昨天聊了 Gateway 跟 Fallback。今天要分享模型健康檢測——如何確定自己設定的模型真的可...

2026-09-24 ‧ 由 circle1205 分享
DAY 26

Day 26|Web UI 與用量追蹤:一眼就看出預算與流量

Day 26|Web UI 與用量追蹤:一眼就看出預算與流量 昨天聊了健康檢測拆成兩層、修 bug 修出新 bug 的故事。今天要聊的是使用者實際會看到的畫面:...

2026-09-25 ‧ 由 circle1205 分享
DAY 27

Day 27|Gateway API Key:額度與權限怎麼設計

Day 27|Gateway API Key:額度與權限怎麼設計 昨天聊了 Web UI 跟用量追蹤。這個系統原本的驗證機制很簡單:一個 ROUTER_API_...

2026-09-26 ‧ 由 circle1205 分享
DAY 28

Day 28|MCP Server:讓 agent 一連上就知道這個服務能幹嘛

Day 28|MCP Server:讓 agent 一連上就知道這個服務能幹嘛 昨天聊了 Gateway API Key 的額度跟權限設計。今天要聊的是這個系列...

2026-09-27 ‧ 由 circle1205 分享
DAY 29

Day 29|Code Review:怎麼系統性審查自己跟 AI 一起寫出來的系統

Day 29|Code Review:怎麼系統性審查自己跟 AI 一起寫出來的系統 昨天聊了 MCP Server。今天要聊的是貫穿整個開發過程的一個習慣:Co...

2026-09-28 ‧ 由 circle1205 分享
DAY 30

Day 30|完賽感想

Day 30|完賽 哇是最後一天了,30天過得比我想像中的快很多,最後一天就來分享一下鐵人賽的參賽心得,順便紀錄自己的完賽心情XD 兩個 AI 平行開發同一專案...

2026-09-29 ‧ 由 circle1205 分享