隨著 ChatGPT、生成式 AI 與大型語言模型(LLM)快速普及,LLM 已逐漸應用於客服、企業知識管理、程式開發及各種 AI Agent 應用。然而,LLM 在帶來便利的同時,也產生了不同於傳統 Web 應用程式的新型態資安風險。
本系列將以 OWASP Top 10 for LLM Applications 為主要架構,循序介紹 LLM 應用程式常見的資安風險,內容將以淺顯易懂的方式說明各項風險的基本概念、可能發生的情境、潛在影響,以及與傳統資安問題的差異,並搭配簡單案例協助理解,建立對 LLM Security 的基本認識。
Day 21|Misinformation 是什麼? 前面介紹了 Unbounded Consumption,今天來看看另一個重要問題:Misinformati...
Day 22|當 AI 說錯話,會發生什麼事? 上一篇提到,Misinformation 不只是單純的「AI 答錯問題」,真正危險的是:使用者或其他系統相信了這...
Day 23|Misinformation 要怎麼防? 上一篇提到,AI 如果產生錯誤資訊,問題不只是「回答錯了」,而是錯誤內容可能被拿去做決策,甚至讓 Age...
Day 24|Hidden Context Exposure 是什麼? 前面介紹了 Misinformation,今天來看看另一個問題:Hidden Conte...
Day 25|Hidden Context Exposure 要怎麼防? 上一篇提到,LLM Application 裡可能存在很多使用者看不到的 Contex...
Day 26|Embedding 是什麼?Vector Database 又在做什麼? 前面介紹了 Hidden Context Exposure,今天來看看...
Day 27|Vector 與 Embedding 可能有哪些安全問題? 上一篇介紹了 Embedding、Vector Database,以及它們在 RAG...
Day 28|Improper Output Handling 是什麼? 前面介紹了 Vector 與 Embedding 的安全問題,今天來看另一個很重要的概...
Day 29|Improper Output Handling 要怎麼防? 上一篇提到,LLM 的輸出不能直接當成可信任的資料。 那麼,實際上要怎麼降低這個風險...
Day 30|OWASP LLM Security 的未來展望與 30 天心得 終於來到 30 天的最後一天。 這 30 天從 Prompt Injection...