鐵人檔案
隨著大型語言模型與 AI Agent 逐漸被整合進各種應用，AI 也帶來了新的資安風險，本系列將用 30 天從基礎開始認識 AI Security，介紹 LLM 的運作方式、Prompt Injection、Jailbreak、資料外洩等常見威脅，並進一步探討 Guardrails、權限控管、RAG Security、AI Agent Security、Red Team 與防禦策略，希望從攻擊與防禦兩個角度建立完整的 AI Security 基礎。
在介紹 AI Security 前，想先跟大家分享一下為什麼選這個主題，前陣子在做專案時我開始大量使用生成式 AI 協助開發，不得不說它確實能大幅提升開發效率，...
在上一篇文章中我們介紹了 AI Security 的概念，也提到近年來大型語言模型（Large Language Model，LLM）逐漸成為企業導入 AI 的...
上一篇我們介紹了 LLM 的基本運作方式，知道大型語言模型會根據使用者輸入的內容與上下文，一步一步預測下一個 Token，最後產生完整的回答。 了解 LLM 如...
上一篇文章我們介紹了幾種 LLM 常見的安全威脅，包括 Prompt Injection、Data Leakage、Jailbreak 與 Tool Abuse...
上一篇介紹了 OWASP GenAI LLM Top 10 2026，我們接下來要繼續研究的是這些和傳統 Web Security 到底有什麼不同？畢竟我們前面...
上一篇比較了 AI Security 與傳統 Web Security，發現很多原本的資安觀念到了 AI 時代依然重要，不同的是，當 LLM、RAG、AI Ag...
上一篇介紹了 Attack Surface，找出了 AI 系統中可能遭到攻擊的位置，但知道「哪裡可能被攻擊」還不夠，實際開發一個系統時，我們還需要繼續思考誰可能...
前面有介紹過 Prompt Injection 是攻擊者透過特別設計的輸入，嘗試改變 AI 原本應該遵循的指令或行為，OWASP 也將 Prompt Injec...
上一篇介紹了 Prompt Injection，攻擊者可能透過輸入影響 AI 原本應該遵循的指令，今天要介紹另一個很常和 Prompt Injection 一起...
上一篇介紹了 Jailbreak，今天來看另一項風險 Hidden Context Exposure（隱藏上下文暴露），他是一種安全風險，在使用 AI 時實際上...
