Day 8｜Sensitive Information Disclosure 是什麼？

前面介紹了 Prompt Injection，今天進入 LLM02：Sensitive Information Disclosure（敏感資訊洩漏）。

簡單來說，就是 LLM Application 在不該公開資訊的情況下，將敏感或機密內容提供給使用者。

這些資訊不一定是密碼或 API Key，也可能包含：

個人資料，例如姓名、電話、地址
公司內部文件與機密資訊
API Key、Token 或其他認證資訊
System Prompt 或 Application 的內部設定
使用者不應該看到的其他資料

例如，一個公司內部的 AI 助手可以查詢企業文件。

正常情況下，員工詢問：

「公司的休假規定是什麼？」

AI 可以從內部文件找到答案。

但如果 AI 在回答過程中，意外把其他員工的個人資料、內部機密文件，甚至系統設定一起透露出來，就可能形成 Sensitive Information Disclosure。

這個問題的核心其實不只是「AI 說錯話」，而是：

AI 能不能確保自己只提供「這個使用者應該看到的資訊」？

尤其當 LLM Application 開始使用 RAG、向量資料庫、對話記憶或外部工具後，AI 能接觸到的資料越來越多，敏感資訊洩漏的風險也會跟著增加。