鐵人檔案
會呼叫 LLM API，不代表做得出可靠的 AI 系統。本系列從工程角度拆解一個 AI Demo 如何走向 Production，實作 Structured Output、模型選擇、RAG、Retrieval Eval、LLM Evaluation、Agent、Guardrails、Tracing、成本與延遲控制，並以 Accuracy、Recall、Latency、Cost 等指標持續驗證，建立可測試、可觀測、可維護的 AI Engineering 方法。
如果有自己串過一次 LLM API，應該會發現做出第一個 AI Demo 真的沒有想像中困難，準備一段 Prompt、把使用者輸入丟進去，再把模型回傳的內容顯示...
昨天在整理 AI Engineering 的時候，我比較在意的是一件事：當 AI 的答案出錯，我到底能不能知道問題發生在哪一層。 到了今天，我想往前再走一步，因...
昨天整理 AI Demo 為什麼不能直接上線時，我一直碰到一個很麻煩的問題：傳統程式出錯通常很好認，API 回 500、資料庫連不上、程式直接 crash，至少...
