iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

Backend 工程師的 Azure GenAI 實戰 系列

本系列以 Backend 工程師視角,使用 Python、FastAPI 與 Azure AI 生態,實作一個 production-minded GenAI backend。內容從 Azure OpenAI 整合、RAG 到 Agent 架構,並涵蓋 API 設計、測試、觀測性與成本控管等 production 議題,聚焦怎麼把 GenAI 從 demo 做成能在真實場景長期運作的系統。

鐵人鍊成 | 共 35 篇文章 | 6 人訂閱 訂閱系列文 RSS系列文

Day 31:exit 0 不是證據:這 30 天騙過我的,沒有一次是紅燈

這個系列的 lab 走完 30 天時,有 2008 個單元測試、behave 的 8 個 feature、CI 四個 job、三個 export drift g...

2026-08-31 ‧ 由 Kehao 分享

Day 32:同一個 RAG 端點的兩個問題:哪些行為進 feature 檔,哪些進 eval dataset

同一個 RAG 端點,有兩個問題長得很像,卻不能用同一種測試回答。第一個是「零檢索命中的時候,它會不會確定性地回 no_answer,而且一次 LLM 都不呼叫...

2026-09-01 ‧ 由 Kehao 分享

Day 33:找不到、找錯、答太滿、引用錯——決定處置落點的不是嚴重度,是可判定性

RAG 上線之後最難處理的失敗都回 HTTP 200:找錯、答太滿、引用錯,三種都帶著一段看起來很像樣的答案。第四種「找不到」只有一半長這樣——零檢索命中會結構...

2026-09-02 ‧ 由 Kehao 分享

Day 34:hybrid、vector、semantic ranker 怎麼選——先問答案被哪條腿弄丟,再問哪個模式排得準

檢索模式選型的討論通常在比「哪個模式排名最準」,而你在 demo 規模的語料上得到的答案永遠是「都差不多」。本次量測的最小語料裡,四個模式幾乎每題都排第 1。把...

2026-09-03 ‧ 由 Kehao 分享

Day 35:Azure OpenAI 升級 Foundry:kind 改一個字,沒動過的 role assignment 跟著變寬

這個系列 Day 4 建的那顆 Azure OpenAI resource(kind: OpenAI),在 2026-08 被官方標成新 Foundry por...

2026-09-04 ‧ 由 Kehao 分享