回想 2022 年我在後端轉職班時，ChatGPT 橫空出世，讓早期印象中只能用來下棋的人工智慧，迎來了爆發性成長。
2023 年參加人生第一場技術研討會時，看著講者透過註解撰寫註解，Copilot 就能自動生成可運行的程式碼，第一次感受到要被取代的壓力。
至今，開發者幾乎已離不開 AI 工具，甚至連我媽也開始習慣向 AI 尋求解答。

然而，要如何讓 AI 真正落地並創造價值又是另一回事了。
隨著 Shadow AI 在組織內蔓延，若企業無法及時治理，輕則因 AI 幻覺搞壞系統，重則因員工將敏感商業邏輯、顧客個資或私有程式碼送往公有雲端，造成難以挽回的資安浩劫。

套一句我前主管說的，要做事之前總會有個動機(Why)再來說明如何做(How)，
鐵人賽的 30 天挑戰也是同樣的道理。

WHY

生成式 AI 快速普及，但企業在導入時往往面臨以下核心挑戰：

• 資料資安與外洩風險：敏感程式碼、商業邏輯或內部資料直接傳送至雲端 API。
• Token 成本難以控管：缺乏統一入口與用量配額管理，調用成本呈黑洞式增長。
• 回覆品質與規範脫節：通用模型不清楚內部 Coding Standard，回答容易產生幻覺且難以落地。
• 權限與工具邊界模糊：缺乏嚴格的 Skill 白名單與授權隔離機制。

本系列將以「架設 AI 中台」為目標，手把手記錄如何結合 RAG 技術、地端/雲端智慧路由、Skill 防護與 Token 治理，搭建一套安全、可控且高效的內部 AI 開發輔助平台。

How

第一週：架構啟航與基礎建設（Day 01 - Day 07）

• Day 01｜前言：為什麼需要 AI 中台？
• Day 02｜中台架構藍圖設計：API Gateway、RAG、路由引擎與後台交互拓撲
• Day 03｜地端推論環境部署：Ollama / vLLM 架設本地開源模型與效能驗證
• Day 04｜多雲端模型介面抽象化：封裝 OpenAI、Claude、Gemini 統一 Client 與 Fallback
• Day 05｜中台核心 Gateway 基礎骨架：基於 FastAPI 實作路由、API Key 驗證與標準化
• Day 06｜向量資料庫選型與建置：Qdrant 環境搭建、集合規劃與 Payload 結構設計
• Day 07｜Embedding 與 Reranker 模型落地：開源 Embedding 與本地 Cross-Encoder 部署

第二週：開發規範 RAG 知識庫管線（Day 08 - Day 14）

• Day 08｜內部規範文件解析與前處理：Markdown、Git 規範與 OpenAPI Schema 階層解析
• Day 09｜針對程式架構文件的 Chunking 策略：語義切割與程式碼區塊完整性保留
• Day 10｜向量化與批次寫入管線：Batch Embedding 生成與 Qdrant Payload 索引建置
• Day 11｜混合檢索（Hybrid Search）實作：BM25 關鍵字與 Dense Vector 融合（RRF）
• Day 12｜Rerank 重排序與 Context 壓縮：二次計分與上下文裁剪優化
• Day 13｜開發助理 System Prompt 與防幻覺機制：精準遵循規範與來源章節標註
• Day 14｜RAG 評估框架實戰：使用 Ragas 評估檢索準確率與生成品質

第三週：機敏判定與動態路由分流（Day 15 - Day 20）

• Day 15｜企業機敏資料分級與決策樹：內部資安分級與地端/雲端分流判定邏輯
• Day 16｜輸入檢測（Guardrails）與 PII 過濾：正則過濾與開源敏感詞偵測
• Day 17｜智慧動態路由引擎（Dynamic Router）：結合敏感度、長度與 Token 預估分流
• Day 18｜資料脫敏（Masking）與還原機制：雲端調用前置匿名化與本機 Mapping 還原
• Day 19｜地端與雲端模型協同模式：地端清洗摘要＋雲端深度邏輯推理
• Day 20｜分流異常處理與高可用降級：本地 GPU 排隊與雲端 API 限流容錯處理

第四週：Skill 邊界控制與 Token 治理（Day 21 - Day 26）

• Day 21｜Skill / Tool Calling 框架設計：定義開發助理專屬 Tool Schema
• Day 22｜Skill 白名單與授權邊界隔離：角色權限劃分與未授權工具攔截
• Day 23｜防範 Prompt Injection 與工具防護：參數驗證與防惡意誘導指令
• Day 24｜Token 精確計算與成本追蹤：多模型 Tokenizer 整合與成本折算
• Day 25｜基於 Redis 的限流與配額管制：滑動窗口限流與每日額度扣減
• Day 26｜可觀測性：日誌與鏈路追蹤：整合 OpenTelemetry / Langfuse 紀錄完整請求生命週期

第五週：管理後台、部署與總結（Day 27 - Day 30）

• Day 27｜管理後台 API 與 Dashboard 實作：Token 消耗趨勢與機敏攔截可視化
• Day 28｜端到端整合測試（E2E Testing）：自動化驗證分流、RAG 準確率與限流機制
• Day 29｜Docker 容器化與一鍵部署：Docker Compose 配置與多服務編排
• Day 30｜完賽心得：企業 AI 中台的落地反思與演進展望

明天 Day 02 將正式進入系統設計環節，拆解中台架構藍圖與各模組資料流向。