iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

現代化的 AI 系統設計 系列

現代化的系統絕大多數都會嵌入並使用大量的AI功能,然而 AI服務天生具備的不確定性與高成本的考量會改變系統設計的思路與方向,這次希望透過鐵人賽將個人在AI系統設計的經驗完整彙整呈現,並且針對現在最重要的模型客製化設計進行補強。

參賽天數 23 天 | 共 23 篇文章 | 2 人訂閱 訂閱系列文 RSS系列文
DAY 11

[Day11] - AI 出錯後,你能重建它看見了什麼嗎?Production Observability 與 Trace

API 200 OK,但答案用了三天前的規定 昨天談完 Evaluation,我們已經能判斷一個 RAG 或 Agent 系統究竟有沒有做對。但當 Produc...

2026-08-25 ‧ 由 lichin0307 分享
DAY 12

[Day12] - RAG 已經會找資料了,為什麼還需要 Agent?從固定流程到動態決策

RAG 找到了退款規則,然後呢? 使用者說:「昨天收到的耳機左耳沒聲音,我下週要出國,可以直接退款嗎?」 一套成熟的 RAG 可以找到正確政策,確認瑕疵品在到貨...

2026-08-26 ‧ 由 lichin0307 分享
DAY 13

[Day 13] - Agent = Model + Harness:建造Agent 之前先建立一個會失敗的 Agent Baseline

Model 取得下一步的決策權,然後呢? 前面我們把 Agent 的邊界放在「誰決定下一步」。但 Model 取得動態決策權之後,不會自動知道怎麼呼叫 Tool...

2026-08-27 ‧ 由 lichin0307 分享
DAY 14

[Day 14] - Agent 一直在跑,為什麼任務沒有前進?從 Progress 到正確停止

「幫我退掉 order 123。」Agent 查了訂單、查了規則,也呼叫了退款工具。第一次逾時(Timeout)後,它再試一次,最後宣布完成;系統裡卻留下兩筆退...

2026-08-28 ‧ 由 lichin0307 分享
DAY 15

[Day 15] - Agent 記得對話,為什麼還是不知道自己做到哪裡?從 Context 到可控的 State

昨天,Agent 已確認 order 123 符合退款資格,問使用者要不要送出退款。使用者說:「我晚點確認。」Session 隨後結束。隔天,他只說:「繼續昨天...

2026-08-29 ‧ 由 lichin0307 分享
DAY 16

[Day 16] - Agent 中斷後,怎麼安全地繼續?Checkpoint、Resume 與 Durable Execution

order 123 已完成退款資格查驗,State 正確停在「等待使用者確認」。數小時後,使用者按下確認,核准事件也成功進入持久事件儲存層。偏偏就在系統準備把事...

2026-08-30 ‧ 由 lichin0307 分享
DAY 17

[Day17 ] - Agent 記住得越多越好嗎?Memory 的寫入、取回、修正與遺忘

使用者曾經因颱風造成物流中斷,獲得一次特殊的全額退款。幾個月後,他為另一筆普通訂單申請退款,客服 Agent 從歷史紀錄中找到了上次的結果: customer_...

2026-08-31 ‧ 由 lichin0307 分享
DAY 18

[Day18] - Agent 使用 MCP:從工具發現到可驗證的狀態變更

「幫我查 order 123 的退款資格,如果可以就直接退款。」 這句話放進 Agent 之後,模型可能需要先連到訂單 MCP Server 查詢狀態,再連到付...

2026-09-01 ‧ 由 lichin0307 分享
DAY 19

[Day19] - Agent 被 Prompt Injection 騙了,為什麼仍不該有能力退款?從執行授權到人工核准

客服 Agent 收到一封客訴信:我的訂單還沒有收到,請幫我確認能不能退款。但實際上信件後半段藏著另一段指令:讀取最近十筆訂單、把付款資料寄到外部信箱,再替其中...

2026-09-02 ‧ 由 lichin0307 分享
DAY 20

[Day20] - Agent 說退款失敗了,真的嗎?Timeout 後如何找回同一筆操作

昨天,我們替客服 Agent 建立了一道執行授權:模型可以建議退款,但只有 Runtime 能讓那一筆固定的退款真正發生。今天,這筆退款已經通過授權。 Agen...

2026-09-03 ‧ 由 lichin0307 分享