鐵人檔案
本系列將以「打造 AI Security Lab：從攻擊 LLM 到建立自己的 AI 防線」為主題，透過 30 天實作探索生成式 AI 所面臨的資安問題。從建立本地 LLM 應用開始，實際模擬 Prompt Injection、Jailbreak、敏感資訊洩漏等攻擊，觀察 AI 應用的安全風險，再逐步建立輸入過濾、威脅偵測、輸出防護與權限控管等防禦機制。此外，將進一步延伸至 RAG 與 AI Agent 安全，並結合 Wazuh 進行事件紀錄與監控，最後透過自動化測試比較攻擊與防禦效果。希望透過實作將傳統資安經驗與新興 AI Security 技術結合，建立一套可重複驗證的 AI 資安實驗環境
Day 1｜AI Security 是什麼？30 天打造自己的 AI Security Lab 前言 近幾年生成式 AI 快速發展，從單純的聊天機器人，到現在結...
前言 Day 1 先把整個 30 天的方向定下來之後，今天終於正式開始動手。 因為這次的目標是做一個自己的 AI Security Lab，所以第一件事不是急著...
前言 Day 2 我已經成功在本機用 Ollama 跑起 qwen3:4b。 但目前的使用方式還只是： User ↓ Ollama Terminal ↓ q...
前言 Day 3 我已經把 FastAPI 和 Ollama 串起來，現在可以透過： User ↓ FastAPI ↓ Ollama API ↓ qwen...
Day 5｜替 AI 加上 Security Log：每一次輸入、輸出與安全事件都留下紀錄 前言 Day 4 我替 LLM 加上了 System Prompt，...
前言 前幾天我一直都在「建東西」。 Day 2 把 Ollama 跑起來。 Day 3 做出 FastAPI。 Day 4 加上 System Prompt。...
前言 Day 6 我測了最直接的 Prompt Injection： 忽略前面的規則 前面的規則已經失效 你現在不是原本的角色 結果有點出乎我意料。 模型...
前言 Day 6 做 Prompt Injection。 Day 7 做 Jailbreak。 這兩天我一直重複看到同一個問題： Final Answer 有拒...
前言 Day 8 我專門測了： System Prompt Leakage 結果發現一件很明顯的事情： 即使模型最後有拒絕， reasoning 裡還是可能...
前言 前面 Day 6 到 Day 9，我做了很多攻擊測試。 包括： Prompt Injection Jailbreak System Prompt Leak...
