Day 9｜LLM 為什麼會洩漏敏感資訊？

上一篇提到，Sensitive Information Disclosure 的核心問題，就是 LLM 把使用者不應該看到的資訊透露出來。

但問題來了：

LLM 為什麼會知道這些資訊？又為什麼會把它說出來？

其實原因不一定是模型本身「被攻破」，很多時候是因為 LLM Application 在資料處理與權限控管上出了問題。

1. 使用者自己把敏感資訊交給 AI

最直接的情況，就是使用者在對話中輸入密碼、公司文件、個人資料等內容。

如果 Application 沒有適當處理這些資料，就可能產生後續的資料洩漏風險。

2. AI 可以接觸太多資料

例如企業導入 RAG，讓 AI 可以搜尋公司的內部文件。

如果權限設計不當，AI 可能取得超過目前使用者權限範圍的資料，最後在回答問題時把內容透露出來。

3. 模型輸出可能暴露原本不該公開的內容

LLM 產生回答時，可能把敏感資料、內部資訊或其他機密內容放進回應。

因此，不能因為「資料沒有直接顯示給使用者」，就認為資料一定安全。

4. Prompt Injection 也可能成為洩漏手段

攻擊者可能利用 Prompt Injection，嘗試誘導 LLM 輸出原本受到限制的資訊。

這也說明了 OWASP 的不同風險之間並不是完全獨立的，一個漏洞有時可能成為另一個安全問題的攻擊入口。

所以，Sensitive Information Disclosure 的重點並不只是：

「AI 有沒有機會看到敏感資料？」

而是：

「AI 能看到哪些資料，以及哪些資料真的可以被它交給使用者？」