現代化的系統絕大多數都會嵌入並使用大量的AI功能,然而 AI服務天生具備的不確定性與高成本的考量會改變系統設計的思路與方向,這次希望透過鐵人賽將個人在AI系統設計的經驗完整彙整呈現,並且針對現在最重要的模型客製化設計進行補強。
API 200 OK,但答案用了三天前的規定 昨天談完 Evaluation,我們已經能判斷一個 RAG 或 Agent 系統究竟有沒有做對。但當 Produc...
RAG 找到了退款規則,然後呢? 使用者說:「昨天收到的耳機左耳沒聲音,我下週要出國,可以直接退款嗎?」 一套成熟的 RAG 可以找到正確政策,確認瑕疵品在到貨...
Model 取得下一步的決策權,然後呢? 前面我們把 Agent 的邊界放在「誰決定下一步」。但 Model 取得動態決策權之後,不會自動知道怎麼呼叫 Tool...
「幫我退掉 order 123。」Agent 查了訂單、查了規則,也呼叫了退款工具。第一次逾時(Timeout)後,它再試一次,最後宣布完成;系統裡卻留下兩筆退...
昨天,Agent 已確認 order 123 符合退款資格,問使用者要不要送出退款。使用者說:「我晚點確認。」Session 隨後結束。隔天,他只說:「繼續昨天...
order 123 已完成退款資格查驗,State 正確停在「等待使用者確認」。數小時後,使用者按下確認,核准事件也成功進入持久事件儲存層。偏偏就在系統準備把事...
使用者曾經因颱風造成物流中斷,獲得一次特殊的全額退款。幾個月後,他為另一筆普通訂單申請退款,客服 Agent 從歷史紀錄中找到了上次的結果: customer_...
「幫我查 order 123 的退款資格,如果可以就直接退款。」 這句話放進 Agent 之後,模型可能需要先連到訂單 MCP Server 查詢狀態,再連到付...
客服 Agent 收到一封客訴信:我的訂單還沒有收到,請幫我確認能不能退款。但實際上信件後半段藏著另一段指令:讀取最近十筆訂單、把付款資料寄到外部信箱,再替其中...
昨天,我們替客服 Agent 建立了一道執行授權:模型可以建議退款,但只有 Runtime 能讓那一筆固定的退款真正發生。今天,這筆退款已經通過授權。 Agen...