iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

淺談OWASP Top 10 for Large Language Model Applications 系列

隨著 ChatGPT、生成式 AI 與大型語言模型(LLM)快速普及,LLM 已逐漸應用於客服、企業知識管理、程式開發及各種 AI Agent 應用。然而,LLM 在帶來便利的同時,也產生了不同於傳統 Web 應用程式的新型態資安風險。
本系列將以 OWASP Top 10 for LLM Applications 為主要架構,循序介紹 LLM 應用程式常見的資安風險,內容將以淺顯易懂的方式說明各項風險的基本概念、可能發生的情境、潛在影響,以及與傳統資安問題的差異,並搭配簡單案例協助理解,建立對 LLM Security 的基本認識。

鐵人鍊成 | 共 30 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文
DAY 11

淺談OWASP Top 10 for LLM Applications-LLM Supply Chain 是什麼?

Day 11|LLM Supply Chain 是什麼? 前面介紹完 Prompt Injection 與 Sensitive Information Disc...

2026-09-24 ‧ 由 jj900314 分享
DAY 12

淺談OWASP Top 10 for LLM Applications-LLM Supply Chain 有哪些風險

Day 12|LLM Supply Chain 有哪些風險? 上一篇提到,LLM Application 會依賴許多外部元件,而這些元件本身也可能成為攻擊入口。...

2026-09-25 ‧ 由 jj900314 分享
DAY 13

淺談OWASP Top 10 for LLM Applications-Excessive Agency 是什麼

Day 13|Excessive Agency 是什麼 簡單來說,Excessive Agency 指的是: LLM 或 AI Agent 被賦予了超出實際需求...

2026-09-26 ‧ 由 jj900314 分享
DAY 14

淺談OWASP Top 10 for LLM Applications-Excessive Agency 有哪些風險

Day 14|Excessive Agency 有哪些風險? 上一篇提到,Excessive Agency 的核心問題,是 AI 被賦予了太多不必要的能力。 那...

2026-09-27 ‧ 由 jj900314 分享
DAY 15

淺談OWASP Top 10 for LLM Applications-Data and Model Poisoning 是什麼

Day 15|Data and Model Poisoning 是什麼? 前面介紹了 Supply Chain,今天來看看另一個和資料、模型有關的安全問題:Da...

2026-09-28 ‧ 由 jj900314 分享
DAY 16

淺談OWASP Top 10 for LLM Applications-Data Poisoning 是怎麼發生的

Day 16|Data Poisoning 是怎麼發生的? 上一篇介紹了 Data Poisoning 與 Model Poisoning,今天先把焦點放在 D...

2026-09-29 ‧ 由 jj900314 分享
DAY 17

淺談OWASP Top 10 for LLM Applications-模型本身也會被動手腳

Day 17|Model Poisoning:模型本身也會被動手腳? 上一篇介紹的是 Data Poisoning,今天換個角度,來看看 Model Poiso...

2026-09-30 ‧ 由 jj900314 分享
DAY 18

淺談OWASP Top 10 for LLM Applications-Unbounded Consumption:為什麼 AI 特別容易被「耗光」

Day 18|Unbounded Consumption:為什麼 AI 特別容易被「耗光」? 前面介紹了 Data and Model Poisoning,今天...

2026-10-01 ‧ 由 jj900314 分享
DAY 19

淺談OWASP Top 10 for LLM Applications-Unbounded Consumption 的攻擊方式

Day 19|Unbounded Consumption 的攻擊方式 上一篇提到,LLM 的 Token、Context、Reasoning 以及多模態輸入,都...

2026-10-02 ‧ 由 jj900314 分享
DAY 20

淺談OWASP Top 10 for LLM Applications-Unbounded Consumption 怎麼防

Day 20|Unbounded Consumption 怎麼防? 前面介紹了 Unbounded Consumption 為什麼會發生,以及攻擊者可以怎麼利用...

2026-10-03 ‧ 由 jj900314 分享