iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

淺談OWASP Top 10 for Large Language Model Applications 系列

隨著 ChatGPT、生成式 AI 與大型語言模型(LLM)快速普及,LLM 已逐漸應用於客服、企業知識管理、程式開發及各種 AI Agent 應用。然而,LLM 在帶來便利的同時,也產生了不同於傳統 Web 應用程式的新型態資安風險。
本系列將以 OWASP Top 10 for LLM Applications 為主要架構,循序介紹 LLM 應用程式常見的資安風險,內容將以淺顯易懂的方式說明各項風險的基本概念、可能發生的情境、潛在影響,以及與傳統資安問題的差異,並搭配簡單案例協助理解,建立對 LLM Security 的基本認識。

鐵人鍊成 | 共 30 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文
DAY 21

淺談OWASP Top 10 for LLM Applications-Misinformation 是什麼

Day 21|Misinformation 是什麼? 前面介紹了 Unbounded Consumption,今天來看看另一個重要問題:Misinformati...

2026-10-04 ‧ 由 jj900314 分享
DAY 22

淺談OWASP Top 10 for LLM Applications-當 AI 說錯話,會發生什麼事

Day 22|當 AI 說錯話,會發生什麼事? 上一篇提到,Misinformation 不只是單純的「AI 答錯問題」,真正危險的是:使用者或其他系統相信了這...

2026-10-05 ‧ 由 jj900314 分享
DAY 23

淺談OWASP Top 10 for LLM Applications-Misinformation 要怎麼防

Day 23|Misinformation 要怎麼防? 上一篇提到,AI 如果產生錯誤資訊,問題不只是「回答錯了」,而是錯誤內容可能被拿去做決策,甚至讓 Age...

2026-10-06 ‧ 由 jj900314 分享
DAY 24

淺談OWASP Top 10 for LLM Applications-Hidden Context Exposure 是什麼

Day 24|Hidden Context Exposure 是什麼? 前面介紹了 Misinformation,今天來看看另一個問題:Hidden Conte...

2026-10-07 ‧ 由 jj900314 分享
DAY 25

淺談OWASP Top 10 for LLM Applications-Hidden Context Exposure 要怎麼防

Day 25|Hidden Context Exposure 要怎麼防? 上一篇提到,LLM Application 裡可能存在很多使用者看不到的 Contex...

2026-10-08 ‧ 由 jj900314 分享
DAY 26

淺談OWASP Top 10 for LLM Applications-Embedding 是什麼?Vector Database 又在做什麼

Day 26|Embedding 是什麼?Vector Database 又在做什麼? 前面介紹了 Hidden Context Exposure,今天來看看...

2026-10-09 ‧ 由 jj900314 分享
DAY 27

淺談OWASP Top 10 for LLM Applications-Vector 與 Embedding 可能有哪些安全問題

Day 27|Vector 與 Embedding 可能有哪些安全問題? 上一篇介紹了 Embedding、Vector Database,以及它們在 RAG...

2026-10-10 ‧ 由 jj900314 分享
DAY 28

淺談OWASP Top 10 for LLM Applications-Improper Output Handling 是什麼

Day 28|Improper Output Handling 是什麼? 前面介紹了 Vector 與 Embedding 的安全問題,今天來看另一個很重要的概...

2026-10-11 ‧ 由 jj900314 分享
DAY 29

淺談OWASP Top 10 for LLM Applications-Improper Output Handling 要怎麼防

Day 29|Improper Output Handling 要怎麼防? 上一篇提到,LLM 的輸出不能直接當成可信任的資料。 那麼,實際上要怎麼降低這個風險...

2026-10-12 ‧ 由 jj900314 分享
DAY 30

淺談OWASP Top 10 for LLM Applications-OWASP LLM Security 的未來展望與 30 天心得

Day 30|OWASP LLM Security 的未來展望與 30 天心得 終於來到 30 天的最後一天。 這 30 天從 Prompt Injection...

2026-10-13 ‧ 由 jj900314 分享