隨著大型語言模型與 AI Agent 逐漸被整合進各種應用,AI 也帶來了新的資安風險,本系列將用 30 天從基礎開始認識 AI Security,介紹 LLM 的運作方式、Prompt Injection、Jailbreak、資料外洩等常見威脅,並進一步探討 Guardrails、權限控管、RAG Security、AI Agent Security、Red Team 與防禦策略,希望從攻擊與防禦兩個角度建立完整的 AI Security 基礎。
前言 在介紹 AI Security 前,想先跟大家分享一下為什麼選這個主題,前陣子在做專案時我開始大量使用生成式 AI 協助開發,不得不說它確實能大幅提升開發...