Day 3｜今天就正式來認識這個系列的主角：

OWASP Top 10 for LLM Applications。

OWASP Top 10 for LLM Applications 是什麼？

OWASP 是一個專注於軟體安全的開放社群，提供許多資安相關的研究、工具與指南。

其中比較知名的就是 OWASP Top 10，用來整理 Application Security 中需要特別注意的重要風險。

而隨著大型語言模型（LLM）逐漸被整合到各種 Application 中，也出現了一些過去比較少遇到的安全問題。

因此 OWASP 推出了 Top 10 for LLM Applications，專門整理 LLM Application 所需要注意的重要安全風險。

簡單來說，它想回答的就是：

「當 Application 使用了 LLM 之後，有哪些安全問題需要特別注意？」

本系列會以目前最新的 2026 版為準。2026 版除了重新調整部分風險的順序，也擴大或重新定義了部分風險的涵蓋範圍。

2026 版有哪些風險？

2026 版一共有十個主要風險：

LLM01：Prompt Injection

透過特製的輸入內容，影響 LLM 原本預期的行為。

LLM02：Sensitive Information Disclosure

LLM 或 Application 在處理資訊時，可能洩漏不應被公開的敏感資料。

LLM03：Excessive Agency

給予 LLM 過多的權限、功能或自主行動能力，使模型受到操控時可能造成更大的影響。

LLM04：Supply Chain

LLM Application 所使用的模型、套件、資料或第三方元件可能引入安全風險。

LLM05：Data and Model Poisoning

攻擊者透過污染訓練、微調或其他相關資料，影響模型的行為或結果。

LLM06：Unbounded Consumption

對 LLM 的使用缺乏足夠限制，可能造成資源、運算能力或成本被大量消耗。

LLM07：Misinformation

LLM 產生錯誤或誤導性的資訊，而 Application 又過度信任這些內容。

LLM08：Hidden Context Exposure

Application 傳給 LLM 的隱藏 Context，例如系統指令、工具資訊或其他內部內容，可能被不當揭露。

這也是 2026 版相較於過去版本的一個重要變化：原本的 System Prompt Leakage 擴大成 Hidden Context Exposure。

LLM09：Vector and Embedding Weaknesses

與 RAG、Vector Database、Embedding 等技術相關的安全問題。

LLM10：Improper Output Handling

Application 沒有正確驗證或處理 LLM 產生的輸出，導致問題進一步影響其他系統。

小結

看到這十大項目，可以發現 LLM Security 的範圍其實非常廣。

從：

Prompt → 資料 → Model → Context → RAG → Agent → Output → 資源

都有可能產生安全問題。

而接下來的文章，就會開始逐一介紹這十大風險。

官方完整資料
https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/