2026 iThome 鐵人賽

AI Security

Day 26

2026-09-08

255

0

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

美國政府推薦的 AI 安全指南：NIST AI RMF 框架的 GOVERN 與 MAP 功能

大家好，昨天我們聊完了強制性的歐盟 AI 法案。今天我們要來看另一個在實務合規上極具權重、也是多數企業落地 AI 風險管理的事實標準：NIST AI RMF（N...

6r556ox

AI Security

Day 19

2026-09-12

254

0

合法呼叫湊出的攻擊鏈：AI Agent 防禦的 30 天觀念養成系列

Day 19｜Security=False 的意義是什麼？透過AgentDojo實戰與分析結果

前言今天終於要實際以 AgentDojo 進行測試攻擊產生、環境注入、模型執行以及最後的判定函式了。通常一個評測單元正常結束後，我們會好奇紀錄中的 se...

tdoh_ray

團隊四點還吃牛肉man

AI Security

Day 20

2026-10-04

254

0

從 LLM、Agent 到 Guardrails：30 天打造可控、安全、可驗證的 AI Agent 系列

Day 20｜Agent 的記憶是功能，還是一顆定時炸彈？

做到 Day 19，Agent 已經能呼叫真實模型，也有輸入、檢索、工具和後端授權邊界。接下來最容易讓資料越積越多的功能，是記憶。記住「這台測試筆電是 Win...

justin_log

團隊 nutc imac

AI Security

Day 12

2026-09-05

253

0

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列

DAY12｜CaMeL實戰落地篇：解決API額度問題與驗證提示詞注入防禦

昨天把CaMeL跑起來之後replan迴圈失控把20次免費API額度全部燒光，今天來想辦法解決然後繼續做吧。原本以為免費API根本撐不住benchmark，甚...

jerry940917

團隊四點還吃牛肉man

AI Security

Day 12

2026-09-05

252

0

合法呼叫湊出的攻擊鏈：AI Agent 防禦的 30 天觀念養成系列

Day 12｜argument 被改寫之後，runtime 還追得到它的來源嗎

前言 Day 11 的工具呼叫不再直接由模型觸發，中間插了一層 CapabilityManager，runtime 先確認 agent 有沒有使用某個工具的能力...

tdoh_ray

團隊四點還吃牛肉man

AI Security

Day 5

2026-10-01

249

0

《Agentic AI 攻防 1~30 天》系列

Day 27｜把攻防心法帶進 MODA 風險分類框架：GCP Security 視角的閉環

兩個系列，一個閉環 8 月的主題一 Day4 介紹過數位發展部的《人工智慧風險分類框架》，Day29 做了 MODA × OWASP × SAIF 的三框架對照...

Fngi

團隊 DevFest 愁備處