—— 「模型會幻覺，但 IR 不能亂槍打鳥。」

💬 為什麼需要 AI 事件回應 (AI IR)？

在傳統資安領域，事件回應 (Incident Response, IR) 是基本盤：

• 中毒 → IR Team
• DDoS → IR Team
• 資料外洩 → IR Team

但現在進入 AI × 資安時代，新的事件場景開始冒出來：

• 模型中毒 (Model Poisoning)：有人在訓練數據裡塞惡意樣本。
• 提示注入 (Prompt Injection)：使用者用一行話就讓你的客服 AI 變成「內鬼」。
• 模型漂移 (Model Drift)：今天輸出合理，明天開始胡言亂語。
• API Key 洩漏：一不小心，金鑰就上 GitHub trending。
• Denial of Wallet：有人刷爆你的雲端 AI API，帳單瞬間爆炸。

👉 傳統 IR Playbook 無法涵蓋這些新場景，必須建立專屬的 AI IR Playbook。

🛠️ AI IR Playbook 四步驟

以下是一個建議的 AI IR 四部曲：

1️⃣ 偵測 (Detection)

• 模型健康監控：觀察輸出是否異常（偏見、幻覺、答非所問）。
• 異常 API 用量：出現不合邏輯的流量尖峰。
• 外部報告：使用者或紅隊回報 AI 行為異常。

2️⃣ 分析 (Analysis)

• 確認是「誤報」還是「真正事件」。
• 定位範圍：模型？API？Prompt？還是數據集？
• 判斷影響：機密性（Confidentiality）、完整性（Integrity）、可用性（Availability）。

3️⃣ 控制與修復 (Contain & Remediate)

• 短期：下線模型、切斷 API Key、阻擋異常流量。
• 中期：修復 prompt template、防止惡意注入、更新金鑰。
• 長期：模型重訓練、加強防護機制（AI 防火牆 / 檢測器）。

4️⃣ 復原與學習 (Recovery & Lessons Learned)

• 逐步恢復服務，並觀察是否還有殘留攻擊。
• 紀錄事件並進行 Postmortem，更新 AI IR Playbook。
• 強化防禦：自動化掃描、持續監控、教育開發者。

📊 AI IR vs 傳統 IR 的差異

🎭 工程師小劇場

PM：模型昨天開始自稱「Skynet」，還威脅要解雇我。
IR：先 calm down，這不是裁員信，是 Prompt Injection。
PM：……那我的年終獎金還在嗎？

✅ 小結

• AI IR 不是選擇題，而是必修課。
• 不做 Playbook，等於把未來的「AI 災難」交給運氣。
• 建立 AI IR Playbook 才能確保當 AI 出事時，團隊有 SOP 可循。

🔮 預告：Day 33｜模型紅隊演練 (AI Red Teaming)

下一篇，我們將深入探討 如何用紅隊演練檢驗 AI 系統的防禦能力。