2026 iThome 鐵人賽

AI Security

Day 1

2026-09-02

192

0

《Agentic AI 攻防 1~30 天》系列

Day 1｜系列開場：為什麼 Agentic AI 攻防要放進 GCP Security 框架思考

從防線設計，走到攻防對抗 8 月的《30 天用 GCP Security 打造企業級 AI 安全防線》，講的是「怎麼把防線設計對」——IAM 怎麼分層、資料邊界...

Fngi

團隊 DevFest 愁備處

AI Security

Day 4

2026-08-28

192

0

Agent的系統防禦升級系列

DAY 4 || LLM Agent 的「記憶污染」與 RAG 架構安全防線

大語言模型（LLM）具備強大的推理能力，但其上下文視窗（Context Window）的限制與無法即時更新知識的特性，讓企業在部署Agent時，普遍會結合檢索增...

infi1156

團隊四點還吃牛肉man

AI Security

Day 2

2026-09-16

192

0

Medical AI Security Lab：醫療 AI Chatbot 的攻防實驗與自動化 Red Team 系列

Day 2｜為什麼選醫療 AI 當實驗場？

昨天的產出，今天先回顧一下Day 1 畫出了第一版的 Threat Model，標出了「使用者輸入 → 後端 → LLM → 病患資料」這條路徑上幾個可能被攻擊...

misantropia

團隊 AI Lab 404

AI Security

Day 14

2026-09-02

191

0

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（14）：問出 AI 的權限，再讓 AI 替你做壞事（Excessive Agency）（重啟）

上一篇講模型輸出後可能造成的影響，模型輸出如果直接被塞進 HTML、SQL 或 Shell，最後可能變成 XSS、SQL injection 或 Command...

Vivian

AI Security

Day 13

2026-09-27

191

0

一個 Agent 我查不動，一個我改得動：內部威脅偵測的 30 天系列

問一次 Jev 只要 0.25 秒，塞進 hook 卻要 1.7 秒：我最後把模型移出了熱路徑

問一次 Jev，同一條連線從第二次開始，中位數 248 毫秒。同一個問題放進 hook 裡問，要 1.7 秒。差的那 1.4 秒不是模型，是「每次都從零開始」...

vidici

AI Security

Day 9

2026-09-02

191

0

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列

Day 9｜鎖定CaMeL任務失敗案例分析

CaMeL自己怎麼定義這類失敗 CaMeL論文把這類失敗定名為「Data requires action」，採取什麼行動，取決於還沒讀到的資料。論文舉的官方例子...

jerry940917

團隊四點還吃牛肉man