系列文章
Day11 - RAG 上下文最佳化：4 種策略實測，降低 Token 成本
🔹 前言 昨天（Day 10）我們把「查詢流程」串了起來： Retriever：快速找出候選文件。 Reranker：重新排序，把最相關的文件放到最前面。...
Day12 - 知識庫資料管理：多來源整合 × 可追溯版本控制
🔹 前言 經過前幾天（Day 8–11） 的實作，我們已經完成了從 文件清洗 → Chunking → 向量化 → 索引 → 查詢流程 → 上下文組裝 的基礎。...
Day13 - 為什麼知識會「過期」？Data Drift 偵測與更新策略實作
🔹 前言 昨天（Day 12）我們談到了 知識庫資料管理： 多種來源整合 → 把 PDF、Web、API 等不同來源轉換成統一格式。 資料版本控制 → 用 D...
Day14 - LLMOps Pipeline 自動化：Prefect vs Dagster 實戰比較
🔹 前言 終於來到和 DevOps 這個主題比較相關的部分了，感謝前面有耐心跟著讀的讀者 😆 在 RAG 系統裡，我們需要週期性地做很多「重複又必要」的工作來讓...
Day15 - Prompt Generation：用模板和版本管理 Prompt，規範 LLM 的回應
🔹 前言 在使用 LLM（大型語言模型）的時候，我們其實是透過一段「指令」來告訴模型要做什麼，這段指令就叫做 提示詞（Prompt）。 在 Day 15 &a...
Day16 - LangChain × Guidance：打造可組合、可控的 Prompt 工作流
🔹 前言 昨天我們談到 Prompt 系統化：包括模板化、版本管理、測試與整合。這些設計，讓我們能像管理程式碼一樣管理 Prompt。 但在真實應用中，單一 P...
Day17 - LLM 部署策略選型：雲端 vs 本地 vs 混合架構（成本與隱私）
🔹 前言 前 16 天，我們一路鋪陳了基礎觀念： 從 RAG 檢索架構、快取、觀測性、Prompt 設計 到 Workflow 工具（LangChain + G...
Day18 - 用 FastAPI 實作 LLM API Gateway：驗證、限流、觀測與實務選型
🔹 前言 經過前面系列的文章，我們已經從零搭建出一條完整的 RAG Pipeline ，目前具備以下能力： 文件清洗與 Chunking 把原始文件整理成乾...
Day19 - LLM 可觀測性實戰：監控延遲、Token 與成本(含工具選型)
🔹 前言 昨天我們完成了 API Gateway，讓前端可以透過一個統一的 Proxy 來存取 LLM。 但在真實運行環境裡，還有一個非常現實的問題： 👉 我的...
Day20 - LLM 回應品質監控：幻覺偵測與三層防護實作
🔹 前言 昨天我們談到 延遲、Token 與成本 的監控，確保系統「跑得快、花得省」。 但如果模型輸出的答案是錯的呢？ 👉 在 LLM 應用中，Hallucin...