鐵人檔案
面對導入生成式 AI 的資安疑慮、Token 成本與回答偏差痛點，本系列結合我對現行 AI 技術的掌握與 AI 工具協作，手把手記錄從零建構企業專屬 AI 工具平台的完整過程。
內容聚焦四大落地模組：
．開發規範 RAG：串接內部技術與規範文件，打造遵循規範的輔助開發助理。
．機敏動態路由：依問題敏感度自動分流，機敏內容留存地端開源模型，一般諮詢走雲端 API。
．Skill 邊界控制：限制助理工具調用權限與回答範疇，防止越權行為。
．Token 監控後台：實作成本追蹤、限流與使用審計。
全篇著重架構設計與程式實作，提供一套可複製落地的 AI 中台建置指南。
回想 2022 年我在後端轉職班時，ChatGPT 橫空出世，讓早期印象中只能用來下棋的人工智慧，迎來了爆發性成長。2023 年參加人生第一場技術研討會時，看著...
在正式動手寫程式前，必須先將整個中台系統的模組邊界、資料流向與交互拓撲定義清楚。一個具備生產級能力的企業 AI 中台，絕不是單純打一個 client.chat....
在 AI 中台架構中，「地端模型」是保障敏感資料不外流的核心防線。當系統判定問題包含內部專案程式碼、架構機密或未公開 API 規格時，必須強制將請求導向企業內部...
在 AI 中台架構中，單一模型供應商（Provider）存在嚴重的單點故障（SPOF）與廠商鎖定（Vendor Lock-in）風險。例如當 OpenAI 遭遇...
在完成地端推論環境部署（Day 03）與多雲端 Provider 抽象層（Day 04）後，今天我們要動手打造中台的統一入口：API Gateway 核心骨架。...
在構建企業開發規範 RAG（檢索增強生成）管線時，向量資料庫（Vector Database）扮演著核心記憶庫的角色。通用大模型無法掌握企業內部最新或專屬的 C...
在 RAG 架構中，檢索品質直接決定了最終產出的上限。若是 Embedding 模型無法精準捕捉程式碼語法與技術名詞的語義，或者排序雜亂，注入給 LLM 的上下...
進入第二週的 RAG 知識庫實戰，首要任務是處理「資料品質（Data Quality）」。在真實企業環境中，開發規範通常分散在不同格式的文件中： 團隊 Wi...
