iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

淺談OWASP Top 10 for Large Language Model Applications 系列

隨著 ChatGPT、生成式 AI 與大型語言模型(LLM)快速普及,LLM 已逐漸應用於客服、企業知識管理、程式開發及各種 AI Agent 應用。然而,LLM 在帶來便利的同時,也產生了不同於傳統 Web 應用程式的新型態資安風險。
本系列將以 OWASP Top 10 for LLM Applications 為主要架構,循序介紹 LLM 應用程式常見的資安風險,內容將以淺顯易懂的方式說明各項風險的基本概念、可能發生的情境、潛在影響,以及與傳統資安問題的差異,並搭配簡單案例協助理解,建立對 LLM Security 的基本認識。

參賽天數 10 天 | 共 10 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文
DAY 1

淺談OWASP Top 10 for LLM Applications-為什麼要了解

Day 1|為什麼要了解 OWASP Top 10 for LLM Applications? 近幾年,生成式 AI 的發展速度非常快。 從 ChatGPT 開...

2026-09-14 ‧ 由 jj900314 分享
DAY 2

淺談OWASP Top 10 for LLM Applications-傳統 Application 與 LLM Application 有什麼不同

Day 2|傳統 Application 與 LLM Application 有什麼不同? 上一篇提到,隨著 LLM 被大量導入各種 Application,新...

2026-09-15 ‧ 由 jj900314 分享
DAY 3

淺談OWASP Top 10 for LLM Applications-簡介

Day 3|今天就正式來認識這個系列的主角: OWASP Top 10 for LLM Applications。 OWASP Top 10 for LLM A...

2026-09-16 ‧ 由 jj900314 分享
DAY 4

淺談OWASP Top 10 for LLM Applications-舊版比較

Day 4|前一篇我們簡單認識了 OWASP Top 10 for LLM Applications,也快速看過 2026 版的十大風險。 不過如果有接觸過 O...

2026-09-17 ‧ 由 jj900314 分享
DAY 5

淺談OWASP Top 10 for LLM Applications-Prompt Injection 是什麼

Day 5|Prompt Injection 是什麼? 前面介紹完 OWASP Top 10 for LLM Applications,今天正式進入第一個風險:...

2026-09-18 ‧ 由 jj900314 分享
DAY 6

淺談OWASP Top 10 for LLM Applications-Prompt Injection 的攻擊場景

Day 6|Prompt Injection 的攻擊場景 上一篇介紹了 Prompt Injection 的基本概念,這篇就不再重複定義,而是直接來看看:Pro...

2026-09-19 ‧ 由 jj900314 分享
DAY 7

淺談OWASP Top 10 for LLM Applications-Prompt Injection 怎麼防

Day 7|Prompt Injection 怎麼防? 前兩篇介紹了 Prompt Injection 的概念與常見攻擊場景,最後一篇就來看看:面對 Promp...

2026-09-20 ‧ 由 jj900314 分享
DAY 8

淺談OWASP Top 10 for LLM Applications-Sensitive Information Disclosure 是什麼

Day 8|Sensitive Information Disclosure 是什麼? 前面介紹了 Prompt Injection,今天進入 LLM02:Se...

2026-09-21 ‧ 由 jj900314 分享
DAY 9

淺談OWASP Top 10 for LLM Applications-LLM 為什麼會洩漏敏感資訊

Day 9|LLM 為什麼會洩漏敏感資訊? 上一篇提到,Sensitive Information Disclosure 的核心問題,就是 LLM 把使用者不應...

2026-09-22 ‧ 由 jj900314 分享
DAY 10

淺談OWASP Top 10 for LLM Applications-Sensitive Information Disclosure 怎麼防

Day 10|Sensitive Information Disclosure 怎麼防? 前面兩篇介紹了敏感資訊洩漏是什麼,以及為什麼 LLM 可能把不該透露的...

2026-09-23 ‧ 由 jj900314 分享