Day 30｜OWASP LLM Security 的未來展望與 30 天心得

終於來到 30 天的最後一天。

這 30 天從 Prompt Injection 開始，一路看到 Sensitive Information Disclosure、Excessive Agency、Supply Chain、Data and Model Poisoning，到最後的 Improper Output Handling。

一路寫下來，我覺得最大的體會是：

LLM Application Security 並不是把傳統 Web Security 換個名字而已。

當 Application 開始加入 LLM、RAG、Vector Database、Agent、Tool Calling 之後，原本的攻擊面也跟著改變。

以前我們可能比較關心 SQL Injection、XSS、Authentication 等問題；現在除了這些傳統問題之外，還要思考：

AI 看到什麼？
AI 相信什麼？
AI 可以做什麼？
AI 做錯之後會造成什麼影響？

OWASP LLM Security 的未來

我認為未來 LLM Security 會越來越接近一個完整的 AI Security Engineering。

隨著 AI Agent、Multimodal、RAG、Model Serving 等技術持續發展，安全問題也不會只停留在 Prompt Injection。

未來可能會更加重視：

Agent Security
AI 不只是回答問題，而是開始代表使用者執行工作，因此權限、工具使用與自主行為會更加重要。

AI Supply Chain
模型、Dataset、Adapter、Embedding Model 等元件越來越多，如何確認來源與完整性，也會變成重要問題。

AI Governance
除了技術漏洞之外，模型的資料來源、使用權限、Audit、Monitoring 與責任歸屬，也會逐漸成為企業導入 AI 時的重要議題。

而 OWASP 的價值，也不只是列出 Top 10。

它更像是一個提醒：

每當新的 AI 技術出現，我們都應該重新思考「這項技術帶來了什麼新的攻擊面？」

參加這次 Ironman 的心得

這次參加 iThome Ironman，最大的收穫其實不只是多了解了幾個資安名詞，而是逼自己把一個主題連續研究、整理並寫成 30 篇文章。

很多東西在「看懂」跟「自己寫出來」之間，其實還是有一段距離。

尤其 LLM Security 這個領域更新速度很快，很多今天熟悉的技術，可能過一段時間就會出現新的攻擊方式。

所以這 30 天對我來說，比較像是一次完整的學習紀錄。

從一開始只知道 OWASP LLM Top 10，到後來開始思考 Prompt、RAG、Agent、Vector Database、Model Security 之間的關係，我也更能理解：

AI Security 不是 AI 的附加功能，而是 AI Application 本身的一部分。

30 天結束了，但 LLM Security 顯然還沒有結束。