隨著 ChatGPT、生成式 AI 與大型語言模型(LLM)快速普及,LLM 已逐漸應用於客服、企業知識管理、程式開發及各種 AI Agent 應用。然而,LLM 在帶來便利的同時,也產生了不同於傳統 Web 應用程式的新型態資安風險。
本系列將以 OWASP Top 10 for LLM Applications 為主要架構,循序介紹 LLM 應用程式常見的資安風險,內容將以淺顯易懂的方式說明各項風險的基本概念、可能發生的情境、潛在影響,以及與傳統資安問題的差異,並搭配簡單案例協助理解,建立對 LLM Security 的基本認識。
Day 11|LLM Supply Chain 是什麼? 前面介紹完 Prompt Injection 與 Sensitive Information Disc...
Day 12|LLM Supply Chain 有哪些風險? 上一篇提到,LLM Application 會依賴許多外部元件,而這些元件本身也可能成為攻擊入口。...
Day 13|Excessive Agency 是什麼 簡單來說,Excessive Agency 指的是: LLM 或 AI Agent 被賦予了超出實際需求...
Day 14|Excessive Agency 有哪些風險? 上一篇提到,Excessive Agency 的核心問題,是 AI 被賦予了太多不必要的能力。 那...
Day 15|Data and Model Poisoning 是什麼? 前面介紹了 Supply Chain,今天來看看另一個和資料、模型有關的安全問題:Da...
Day 16|Data Poisoning 是怎麼發生的? 上一篇介紹了 Data Poisoning 與 Model Poisoning,今天先把焦點放在 D...
Day 17|Model Poisoning:模型本身也會被動手腳? 上一篇介紹的是 Data Poisoning,今天換個角度,來看看 Model Poiso...
Day 18|Unbounded Consumption:為什麼 AI 特別容易被「耗光」? 前面介紹了 Data and Model Poisoning,今天...
Day 19|Unbounded Consumption 的攻擊方式 上一篇提到,LLM 的 Token、Context、Reasoning 以及多模態輸入,都...
Day 20|Unbounded Consumption 怎麼防? 前面介紹了 Unbounded Consumption 為什麼會發生,以及攻擊者可以怎麼利用...