本系列以 Backend 工程師視角,使用 Python、FastAPI 與 Azure AI 生態,實作一個 production-minded GenAI backend。內容從 Azure OpenAI 整合、RAG 到 Agent 架構,並涵蓋 API 設計、測試、觀測性與成本控管等 production 議題,聚焦怎麼把 GenAI 從 demo 做成能在真實場景長期運作的系統。
這個系列的 lab 走完 30 天時,有 2008 個單元測試、behave 的 8 個 feature、CI 四個 job、三個 export drift g...
同一個 RAG 端點,有兩個問題長得很像,卻不能用同一種測試回答。第一個是「零檢索命中的時候,它會不會確定性地回 no_answer,而且一次 LLM 都不呼叫...
RAG 上線之後最難處理的失敗都回 HTTP 200:找錯、答太滿、引用錯,三種都帶著一段看起來很像樣的答案。第四種「找不到」只有一半長這樣——零檢索命中會結構...
檢索模式選型的討論通常在比「哪個模式排名最準」,而你在 demo 規模的語料上得到的答案永遠是「都差不多」。本次量測的最小語料裡,四個模式幾乎每題都排第 1。把...
這個系列 Day 4 建的那顆 Azure OpenAI resource(kind: OpenAI),在 2026-08 被官方標成新 Foundry por...