iT邦幫忙

2026 iThome 鐵人賽

DAY 16
0

https://ithelp.ithome.com.tw/upload/images/20260807/20183265ksd9HSwIYi.jpg

接手 AI 轉型兩個月了,你終於讓組織開始「流動」——畫出了價值流、找到了瓶頸、限制了 WIP、凍結了一半專案。三個團隊不再各自埋頭衝刺,而是盯著同一條端到端的流水線。

CEO 上週在全員會議上說:「看到你們動起來了,很好。」

但你心裡清楚:流動只是第一步。

昨天晚上,你收到 Platform Lead 的訊息:「線上模型準確率掉了 8 個百分點,營運團隊剛發現。」

你問:「什麼時候開始掉的?」

he 回:「不確定,可能兩週前?沒人盯著這個數字。」

兩週。

一個關鍵指標默默惡化了兩週,直到有人抱怨才被發現……

這時候你才意識到:組織雖然開始流動了,但 回饋迴路還是斷的。

問題不是沒發生,而是發生了你不知道。等到知道的時候,已經變成災難。


場景:那些「出事了才知道」的災難

你打開過去三個月的事故報告,逐條看下去:

過去三個月「出事了才知道」清單

事故項目 發現延遲 根本原因 業務影響
1. 模型準確率下降 8% 2 週後 資料分佈漂移(Drift),但無監控 客戶體驗下降,客訴增加
2. Feature Pipeline 默默斷掉 3 天後 上游 API 變更 Schema,但無告警 新模型使用舊資料訓練,結果不可用
3. 部署後 Latency 超標 半天後 流量瞬增但系統未自動擴容 服務降級,部分請求逾時
4. 測試環境資料庫 Log 滿了 4 天後 Log 資料表未設保留期限,無人察覺 所有測試失敗,開發停擺一天

每一件事的共同點:不是沒人能修,而是沒人知道要修。

問題發生的那一刻,系統是知道的——只是它沒有告訴你。

你把三個 Lead 找來開會。

「為什麼我們總是『出事了才知道』?」你問。

Data Lead 說:「監控是有的,但要自己去看 Dashboard,沒人每天盯著。」

AI Lead 說:「模型的漂移偵測(Drift Detection)我們寫好了,但部署到 Production 的工作一直沒排上優先級。」

Platform Lead 說:「告警規則是設了,但訊息太多,大家都麻木了。」

你突然懂了。

不是沒有工具,而是「回饋迴路」根本沒有閉合。

系統知道出事了,但沒有一個有效的管道讓這個訊息快速、可靠地傳到該修的人手上。

這就是 Erik 在《鳳凰專案》裡講的 The Second Way: Amplify Feedback Loops(放大回饋迴路)。

問題越早被發現,修復成本越低。

上線後才發現的 Bug,比開發時發現的貴一百倍。兩週後才發現的模型退化,比當天發現的代價高十倍。

回饋要快、要頻繁、要往上游流。

而現在你的組織,回饋慢得像寄信。


兩難:靠人盯?還是讓機器自動告訴你?

你在會議室白板上寫下兩條路:

🔴 選項 A:靠人工定期檢查,出事再救 🔵 選項 B:建立自動化持續回饋(監控、告警與測試)
短期效益:✓ 不用花時間建設監控,省事省力長期代價:✗ 問題持續累積變成大災難,事後救火成本爆炸✗ 工程師疲於奔命,團隊士氣崩潰結果:✗ 永遠在救火,永遠來不及 短期代價:✗ 需要投資建設時間,調整告警規則與整合監控工具長期效益:✓ 問題在極早期就被抓到,修復成本極低✓ 系統穩定性大幅提升,工程師能專注於開發結果:✓ 痛在前面,但這是唯一能讓系統健康的長遠之路

如果是你,現在就要做決定。繼續靠人工巡邏,還是建立自動化回饋?


先別往下看

認真想三十秒。

你會選 A 還是 B?

為什麼?


翻牌:最貴的 bug,是那個你三週後才發現的 bug

正確答案是 B

但這又是一個違反直覺的選擇。當團隊已經很忙,當 CEO 要看產品進度的時候,為什麼要花時間「搞監控」?

因為 《鳳凰專案》的 The Second Way 就是 Feedback

「縮短且放大回饋循環。讓問題快速、頻繁、往上游流動。」

這個概念背後有個殘酷的事實:問題的修復成本,與「發現時間」呈指數級關係。

  • 開發時發現 Bug:成本 1×
  • 測試時發現:成本 10×
  • 上線後發現:成本 100×
  • 客戶投訴後發現:成本 1000×(外加商譽損失與客戶流失)

同樣的邏輯套在你的 AI 系統上:

  • 模型 Drift 當天發現 -> 重新訓練、驗證、部署,半天處理完
  • 模型 Drift 兩週後發現 -> 期間做了多少錯誤決策?影響多少客戶?要怎麼回溯修正?團隊信譽受損多少?

越早發現,代價越低。

所以 Second Way 的核心就是:讓回饋變快。

快到什麼程度?

  • 自動化測試:commit 後幾分鐘就知道有沒有 break
  • 持續監控:關鍵指標異常後幾分鐘就收到告警
  • 自動化驗證:部署到 production 後幾分鐘就知道有沒有問題

不是等到「有人發現」,而是系統主動告訴你。

這就是 DevOps 文化裡 「You Build It, You Run It」 的基礎:如果你對線上系統的狀態一無所知,你就不可能為它負責。

回饋慢 = 問題累積 = 災難爆炸。

回饋快 = 問題早現 = 修復便宜。


如果你有 AI Agent:從被動監控到主動預警

問題是,傳統監控都是「設閾值,超標就告警」,但這有兩個致命缺陷:

  1. 閾值難設:設太鬆沒用,設太緊誤報,最後大家都麻木
  2. 只能抓已知問題:你要先知道「準確率掉 5% 就有問題」才會設告警;但如果是「資料分佈悄悄偏移」這種未知異常,你根本不知道該看什麼指標

這時候,AI Agent 可以把監控從「被動」變成「主動預警」

graph TD
    A[Production 資料流] --> B[AI 監控 Agent]
    C[模型推論結果] --> B
    D[系統 logs & metrics] --> B
    B --> E{異常偵測:<br/>分佈漂移、行為異常、<br/>模式變化}
    E -->|正常| F[持續監控]
    E -->|異常| G[主動告警:<br/>附上異常診斷]
    G --> H[Slack 通知:<br/>「資料分佈偏移 12%,<br/>建議重新訓練」]
    G --> I[自動觸發:<br/>驗證 pipeline,<br/>產生診斷報告]
    I --> J[工程師介入:<br/>已有完整脈絡]

AI 監控和傳統監控的差異:

傳統監控 AI 監控
「準確率 < 80% 就告警」 「準確率下降趨勢異常,雖未達閾值但注意」
「API latency > 500ms 告警」 「latency 分佈出現長尾,可能某類請求有問題」
需要人工設定每個規則 自動學習正常行為,偵測偏離
只能抓已知問題 能發現「這裡怪怪的」未知異常

Agent 不是要取代人,而是要當你的「哨兵」:24 小時盯著系統,一有異常就把診斷好的報告送到你面前……

不用等兩週,不用等客戶投訴,當天就知道。


現場推演:那個被 Agent 在第一天抓到的 drift

來看一個常見場景(綜合改編,數字示意)。

想像一個 12 人的 ML 團隊,維護一個用戶推薦系統。模型每週重新訓練一次,準確率穩定在 82% 左右。

某次上線新版模型後,第一週看起來正常——準確率 81.5%,在正常範圍內。但第二週,運營團隊反映「推薦點擊率掉了」,回頭一查,準確率已經掉到 74%。

團隊花了三天回溯,發現問題出在「資料來源改版,某個 Feature 的分佈漂移,但訓練時沒察覺」。

事後檢討,ML Lead 說:「如果我們第一天就發現資料分佈異常,這個問題根本不會上線。」

於是團隊導入一個 AI drift detection agent:

  • 每次訓練前,Agent 自動比對「新資料分佈 vs 歷史分佈」
  • 如果偏移超過統計顯著性門檻,自動在 PR 上留言警告
  • 上線後,Agent 持續監控 production 推論結果的分佈,異常就告警

三個月後,Agent 抓到 5 次潛在 drift——其中 3 次在訓練前攔下,2 次在上線當天發現並回滾。

沒有一次拖到第二週。

回饋從「兩週」縮短到「當天」,修復成本直接降低一個數量級。


今日金句

「最貴的 bug,是那個你三週後才發現的 bug。回饋越快,災難越少。」


留給你的問題

你的系統壞掉時,是機器先告訴你,還是客戶先告訴你?

如果答案是「客戶」,那你就知道為什麼你永遠在救火了。

明天,我們要面對一個更可怕的場景:那個差點讓你在星期五下午「按下部署按鈕」的瞬間。

部署為什麼這麼可怕?為什麼「星期五上線」會變成詛咒?

因為缺乏即時回饋,部署就像是一場賭博……

而賭輸的代價,可能是幾百萬營收和你的職業生涯。

Day 17 見。


上一篇
Day 15: 你敢不敢凍結一半的專案?
下一篇
Day 17: 損失 500 萬,你還敢星期五上線嗎?
系列文
Phoenix 2026:當《鳳凰專案》遇上 AI Agent —— 30 天 DevOps 職場 RPG 冒險27
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言