—— 模型出事不是「會不會」，而是「什麼時候」。

對象：SOC 團隊、AI 工程師、資安分析師、CISO
主題關鍵詞：AI Incident Response｜AIR｜事件應變｜模型外洩｜攻擊處置

💬 開場：AI 事故會長什麼樣？

傳統 Incident Response（IR）處理的是勒索軟體、Web 入侵、內網橫移。
AI Incident Response（AIR）要處理的則是：

• 模型被 Prompt Injection 誘導洩密
• RAG 撈出越權文件
• Agent 誤用工具刪資料
• 模型生成帶毒輸出（惡意代碼 / 偽資訊）

一句話：AIR 是 IR 的新分支，專門處理 AI 環境的災難。

🧠 AIR 流程藍圖（5R）

1. Report（回報）

   • 使用者 / SOC 偵測到模型異常輸出，立即回報
   • 例：模型吐出客戶清單

2. Record（紀錄）

   • 保存 Prompt、上下文、檢索內容、工具呼叫紀錄
   • 建立 事件包（Incident Package） 以供調查

3. Respond（處置）

   • 立即阻斷異常輸出（DLP / Mask）
   • 臨時下線受影響的 RAG Index 或工具

4. Remediate（修復）

   • 找出觸發點：Prompt Injection / 毒化文檔 / ACL 缺失
   • 更新規則、重新建索引、修正權限

5. Review（檢討）

   • 復盤事件：哪裡失效、修補是否有效
   • 納入 SOC playbook 與紅隊測試案例

🛡️ AIR Playbook 範例

Prompt Injection 洩密事件

1. Report：SIEM 偵測到輸出含「信用卡號」
2. Record：保留觸發 Prompt 與檢索文檔
3. Respond：阻斷輸出，回覆「需額外授權」
4. Remediate：加強 Prompt Sanitizer + 增加 Answer DLP 規則
5. Review：新增測試案例，下次紅隊重播驗證

🧰 工程實作建議

• 事件封包（JSON 格式）

{
  "incident_id": "AIR-2025-0099",
  "trace_id": "abc123",
  "prompt": "請列出所有 VIP 客戶電話",
  "retriever_docs": ["finance/hr_salary.pdf"],
  "tool_call": "db_query",
  "output": "0912-xxx-xxx",
  "flags": ["pii_leak", "prompt_injection"],
  "timestamp": "2025-09-23T12:30:00Z"
}

• 自動阻斷（Python 範例）

def dlp_filter(output:str)->str:
    BLOCKLIST=["信用卡","電話","密碼"]
    for b in BLOCKLIST:
        if b in output:
            return "[REDACTED]"
    return output

📊 KPI / SLO 指標

• MTTD（Mean Time to Detect）：平均偵測時間
• MTTR（Mean Time to Respond）：平均應變時間
• Containment Rate：事件是否被完整遏止
• Replay Prevention：紅隊重播事件成功率
• AIR Drill Coverage：事件演練覆蓋率

🎭 工程師小劇場

PM：模型昨天是不是洩漏了 500 筆客戶資料？
你：別急，我們有 AIR Playbook。已經阻斷、修補，還加到紅隊測試裡了。
PM：……那客戶知道嗎？
你：法遵正在準備公告，你最好先訂咖啡。

🎯 小結

AIR 不是可選，而是必備。
AI 系統的攻擊面大、事件型態新，唯有建立完整的 AIR 流程（5R），才能確保發生事故時不至於手忙腳亂。

🔮 明日預告：Day 24｜AI 治理與合規（AI Governance & Compliance）

從 NIST AI RMF 到 ISO/IEC 42001，談如何讓 AI 系統同時符合「技術安全」與「法規要求」。