本系列將以「打造 AI Security Lab:從攻擊 LLM 到建立自己的 AI 防線」為主題,透過 30 天實作探索生成式 AI 所面臨的資安問題。從建立本地 LLM 應用開始,實際模擬 Prompt Injection、Jailbreak、敏感資訊洩漏等攻擊,觀察 AI 應用的安全風險,再逐步建立輸入過濾、威脅偵測、輸出防護與權限控管等防禦機制。此外,將進一步延伸至 RAG 與 AI Agent 安全,並結合 Wazuh 進行事件紀錄與監控,最後透過自動化測試比較攻擊與防禦效果。希望透過實作將傳統資安經驗與新興 AI Security 技術結合,建立一套可重複驗證的 AI 資安實驗環境
前言 前面 Day 16~Day 20,我把 AI Security Lab 的第一階段慢慢串起來了。 從最開始的: User ↓ LLM 一路加入: Sec...
前言 Day 21 我第一次替 AI Security Lab 加入 RAG。 原本: User ↓ Security Gateway ↓ LLM 現在變成:...