iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

打造 AI Security Lab:從攻擊 LLM 到建立自己的 AI 防線 系列

本系列將以「打造 AI Security Lab:從攻擊 LLM 到建立自己的 AI 防線」為主題,透過 30 天實作探索生成式 AI 所面臨的資安問題。從建立本地 LLM 應用開始,實際模擬 Prompt Injection、Jailbreak、敏感資訊洩漏等攻擊,觀察 AI 應用的安全風險,再逐步建立輸入過濾、威脅偵測、輸出防護與權限控管等防禦機制。此外,將進一步延伸至 RAG 與 AI Agent 安全,並結合 Wazuh 進行事件紀錄與監控,最後透過自動化測試比較攻擊與防禦效果。希望透過實作將傳統資安經驗與新興 AI Security 技術結合,建立一套可重複驗證的 AI 資安實驗環境

參賽天數 2 天 | 共 2 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文
DAY 1

Day 1|AI Security 是什麼?30 天打造自己的 AI Security Lab

Day 1|AI Security 是什麼?30 天打造自己的 AI Security Lab 前言 近幾年生成式 AI 快速發展,從單純的聊天機器人,到現在結...

2026-09-14 ‧ 由 yangcheng 分享
DAY 2

Day 2|用 Ollama 建立本地 LLM 實驗環境

前言 Day 1 先把整個 30 天的方向定下來之後,今天終於正式開始動手。 因為這次的目標是做一個自己的 AI Security Lab,所以第一件事不是急著...

2026-09-15 ‧ 由 yangcheng 分享