
接手 AI 轉型兩個月了,你終於讓組織開始「流動」——畫出了價值流、找到了瓶頸、限制了 WIP、凍結了一半專案。三個團隊不再各自埋頭衝刺,而是盯著同一條端到端的流水線。
CEO 上週在全員會議上說:「看到你們動起來了,很好。」
但你心裡清楚:流動只是第一步。
昨天晚上,你收到 Platform Lead 的訊息:「線上模型準確率掉了 8 個百分點,營運團隊剛發現。」
你問:「什麼時候開始掉的?」
he 回:「不確定,可能兩週前?沒人盯著這個數字。」
兩週。
一個關鍵指標默默惡化了兩週,直到有人抱怨才被發現……
這時候你才意識到:組織雖然開始流動了,但 回饋迴路還是斷的。
問題不是沒發生,而是發生了你不知道。等到知道的時候,已經變成災難。
你打開過去三個月的事故報告,逐條看下去:
| 事故項目 | 發現延遲 | 根本原因 | 業務影響 |
|---|---|---|---|
| 1. 模型準確率下降 8% | 2 週後 | 資料分佈漂移(Drift),但無監控 | 客戶體驗下降,客訴增加 |
| 2. Feature Pipeline 默默斷掉 | 3 天後 | 上游 API 變更 Schema,但無告警 | 新模型使用舊資料訓練,結果不可用 |
| 3. 部署後 Latency 超標 | 半天後 | 流量瞬增但系統未自動擴容 | 服務降級,部分請求逾時 |
| 4. 測試環境資料庫 Log 滿了 | 4 天後 | Log 資料表未設保留期限,無人察覺 | 所有測試失敗,開發停擺一天 |
每一件事的共同點:不是沒人能修,而是沒人知道要修。
問題發生的那一刻,系統是知道的——只是它沒有告訴你。
你把三個 Lead 找來開會。
「為什麼我們總是『出事了才知道』?」你問。
Data Lead 說:「監控是有的,但要自己去看 Dashboard,沒人每天盯著。」
AI Lead 說:「模型的漂移偵測(Drift Detection)我們寫好了,但部署到 Production 的工作一直沒排上優先級。」
Platform Lead 說:「告警規則是設了,但訊息太多,大家都麻木了。」
你突然懂了。
不是沒有工具,而是「回饋迴路」根本沒有閉合。
系統知道出事了,但沒有一個有效的管道讓這個訊息快速、可靠地傳到該修的人手上。
這就是 Erik 在《鳳凰專案》裡講的 The Second Way: Amplify Feedback Loops(放大回饋迴路)。
問題越早被發現,修復成本越低。
上線後才發現的 Bug,比開發時發現的貴一百倍。兩週後才發現的模型退化,比當天發現的代價高十倍。
回饋要快、要頻繁、要往上游流。
而現在你的組織,回饋慢得像寄信。
你在會議室白板上寫下兩條路:
| 🔴 選項 A:靠人工定期檢查,出事再救 | 🔵 選項 B:建立自動化持續回饋(監控、告警與測試) |
|---|---|
| 短期效益:✓ 不用花時間建設監控,省事省力長期代價:✗ 問題持續累積變成大災難,事後救火成本爆炸✗ 工程師疲於奔命,團隊士氣崩潰結果:✗ 永遠在救火,永遠來不及 | 短期代價:✗ 需要投資建設時間,調整告警規則與整合監控工具長期效益:✓ 問題在極早期就被抓到,修復成本極低✓ 系統穩定性大幅提升,工程師能專注於開發結果:✓ 痛在前面,但這是唯一能讓系統健康的長遠之路 |
如果是你,現在就要做決定。繼續靠人工巡邏,還是建立自動化回饋?
認真想三十秒。
你會選 A 還是 B?
為什麼?
正確答案是 B。
但這又是一個違反直覺的選擇。當團隊已經很忙,當 CEO 要看產品進度的時候,為什麼要花時間「搞監控」?
因為 《鳳凰專案》的 The Second Way 就是 Feedback:
「縮短且放大回饋循環。讓問題快速、頻繁、往上游流動。」
這個概念背後有個殘酷的事實:問題的修復成本,與「發現時間」呈指數級關係。
- 開發時發現 Bug:成本 1×
- 測試時發現:成本 10×
- 上線後發現:成本 100×
- 客戶投訴後發現:成本 1000×(外加商譽損失與客戶流失)
同樣的邏輯套在你的 AI 系統上:
越早發現,代價越低。
所以 Second Way 的核心就是:讓回饋變快。
快到什麼程度?
不是等到「有人發現」,而是系統主動告訴你。
這就是 DevOps 文化裡 「You Build It, You Run It」 的基礎:如果你對線上系統的狀態一無所知,你就不可能為它負責。
回饋慢 = 問題累積 = 災難爆炸。
回饋快 = 問題早現 = 修復便宜。
問題是,傳統監控都是「設閾值,超標就告警」,但這有兩個致命缺陷:
這時候,AI Agent 可以把監控從「被動」變成「主動預警」:
graph TD
A[Production 資料流] --> B[AI 監控 Agent]
C[模型推論結果] --> B
D[系統 logs & metrics] --> B
B --> E{異常偵測:<br/>分佈漂移、行為異常、<br/>模式變化}
E -->|正常| F[持續監控]
E -->|異常| G[主動告警:<br/>附上異常診斷]
G --> H[Slack 通知:<br/>「資料分佈偏移 12%,<br/>建議重新訓練」]
G --> I[自動觸發:<br/>驗證 pipeline,<br/>產生診斷報告]
I --> J[工程師介入:<br/>已有完整脈絡]
AI 監控和傳統監控的差異:
| 傳統監控 | AI 監控 |
|---|---|
| 「準確率 < 80% 就告警」 | 「準確率下降趨勢異常,雖未達閾值但注意」 |
| 「API latency > 500ms 告警」 | 「latency 分佈出現長尾,可能某類請求有問題」 |
| 需要人工設定每個規則 | 自動學習正常行為,偵測偏離 |
| 只能抓已知問題 | 能發現「這裡怪怪的」未知異常 |
Agent 不是要取代人,而是要當你的「哨兵」:24 小時盯著系統,一有異常就把診斷好的報告送到你面前……
不用等兩週,不用等客戶投訴,當天就知道。
來看一個常見場景(綜合改編,數字示意)。
想像一個 12 人的 ML 團隊,維護一個用戶推薦系統。模型每週重新訓練一次,準確率穩定在 82% 左右。
某次上線新版模型後,第一週看起來正常——準確率 81.5%,在正常範圍內。但第二週,運營團隊反映「推薦點擊率掉了」,回頭一查,準確率已經掉到 74%。
團隊花了三天回溯,發現問題出在「資料來源改版,某個 Feature 的分佈漂移,但訓練時沒察覺」。
事後檢討,ML Lead 說:「如果我們第一天就發現資料分佈異常,這個問題根本不會上線。」
於是團隊導入一個 AI drift detection agent:
三個月後,Agent 抓到 5 次潛在 drift——其中 3 次在訓練前攔下,2 次在上線當天發現並回滾。
沒有一次拖到第二週。
回饋從「兩週」縮短到「當天」,修復成本直接降低一個數量級。
「最貴的 bug,是那個你三週後才發現的 bug。回饋越快,災難越少。」
你的系統壞掉時,是機器先告訴你,還是客戶先告訴你?
如果答案是「客戶」,那你就知道為什麼你永遠在救火了。
明天,我們要面對一個更可怕的場景:那個差點讓你在星期五下午「按下部署按鈕」的瞬間。
部署為什麼這麼可怕?為什麼「星期五上線」會變成詛咒?
因為缺乏即時回饋,部署就像是一場賭博……
而賭輸的代價,可能是幾百萬營收和你的職業生涯。
Day 17 見。