2026 iThome 鐵人賽

AI Security

Day 2

2026-08-21

290

0

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（02）：AI 為什麼會一本正經地胡說八道？從 AI、ML 到 GenAI 的運作原理（重啟）

2023 年一位美國律師在準備訴訟資料時，請 ChatGPT 幫忙找相關判例，ChatGPT 很快列出六個案例，案件名稱、判決內容、引用格式一應俱全，看起來完全...

Vivian

AI Security

Day 10

2026-08-19

289

0

Microsoft Foundry 的 AI Agent 攻防實戰：建立高資安與可治理的 Agent 系統系列

Day 10｜Microsoft Foundry 的 AI Agent 攻防實戰：工具清單被濫用

昨天限制了 memory 能保存的內容。今天回到工具：即使每一個工具都有正常用途，串接後仍可能把資料送到不該去的地方。我們用現有的匯出與通知工具重現這條路徑：...

大魔術熊貓工程師

AI Security

Day 24

2026-10-03

289

0

《30 天從零打造資安語言模型：從微調到 Agent 落地》系列

Day 24｜文件狀態機：從 Draft 到 Approved for Training

為什麼需要狀態機第三部把四個任務都做出來了。但有一件事一直沒有正面處理：這些文件在系統裡到底處於什麼狀態，誰可以對它做什麼？沒有明確的狀態定義，會出現這些問...

Fngi

AI Security

Day 23

2026-10-02

288

0

《30 天打造 AI Guardrails》系列

Day 23｜Agent 工具呼叫護欄：tool input / output 的攔截點

從「說錯話」到「做錯事」 Day 1 講 Agentic Top 10 時說過：agent 的風險從說錯話變成做錯事。Day 3 的架構圖上，跟工具有關的箭頭有...

Fngi

AI Security

Day 1

2026-08-10

287

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

我從模型的不確定性開始理解 LLM 應用資安

查核資訊：本文於 2026-08-03 依 OWASP、NIST 與 MITRE 官方資料查核。LLM、Agent 與相關風險分類仍在演進；後續文章涉及特定...

Eric

AI Security

Day 2

2026-08-26

285

0

合法呼叫湊出的攻擊鏈：AI Agent 防禦的 30 天觀念養成系列

Day 2｜所以為什麼模型天生分不清楚「指令」和「資料」呢？

前言 2023 年 2 月，微軟剛把 GPT-4 接進 Bing 的聊天功能沒多久，一個史丹佛的學生 Kevin Liu 對它打了一句話：「Ignore the...

tdoh_ray

團隊四點還吃牛肉man