—— 模型很聰明，但你知道它昨天都做了什麼嗎？

🧠 為什麼 AI 系統需要記錄日誌？

當傳統系統出問題，我們會查：

• 使用者誰、何時、從哪裡登入
• 觸發了哪些功能？
• 有沒有異常行為？

但當 AI 系統出錯，我們常聽到的是：

「使用者說它亂講話了。」
「可能 prompt 太複雜了吧？」
「啊⋯⋯沒記錄下來。」

👀 對，就是沒 log，什麼都查不到。
這也是許多企業導入 LLM 最大的隱憂。

🔍 AI 系統該記錄哪些東西？

🧯 有了 Log，可以怎麼用？

📈 資安監控

• 即時偵測 prompt injection、越權使用、敏感資料洩露
• 建立 SIEM / SOC 警示規則

🕵️ 事後調查

• 出事時重建對話情境，還原事故真相
• 分析誰問了什麼、模型怎麼回

🧪 品質優化

• 收集 QA 數據進行微調
• 觀察回答品質趨勢與掉分點

📦 Log 記錄架構建議

以下是 AI 日誌系統的基本架構：

[使用者端] → prompt → 
[API Gateway] → [Log System] → [LLM 模型] →
[回應] → 記錄 → 儲存至日誌資料庫

建議搭配：

• ✅ JSON 結構化儲存（便於查詢）
• ✅ 建立 Token 數與回應時間指標（有助效能監控）
• ✅ 模組化設計（支援不同模型與應用）

🎭 工程師小劇場

PM：「你們那個 AI 昨天是不是洩漏機密文件了？」
你：「⋯⋯我查一下 log」
你打開 Log 系統，發現什麼都沒記、沒存。

PM：「那⋯⋯你能不能還原一下昨天用戶問了什麼？」
你：「……能還原我就不會爆肝了」

🧨 當出事只能靠「回憶」時，資安等於沒做。

🎯 小結

AI 系統沒 log，就像飛機沒黑盒子。飛得再穩，也讓人不安心。

AI 模型不是黑箱，但我們要幫它建立「行為留痕」。
記錄就是風險管理的起點，是治理也是責任。

🔮 明日預告：Day 8｜你的 AI，有實作 RBAC 嗎？

不是每個人都該問模型所有事。
角色、權限、分級存取，才是企業用 AI 的開始。