2026 iThome 鐵人賽

AI Security

Day 19

2026-10-03

182

0

從 LLM、Agent 到 Guardrails：30 天打造可控、安全、可驗證的 AI Agent 系列

Day 19｜Guardrails 都說可以，為什麼後端還是應該拒絕 Agent？

前面幾天，我陸續替 Agent 加上 Input、Retrieval 和 Tool Output 檢查。做到這裡很容易產生一個錯覺：既然請求已經通過 Guard...

justin_log

團隊 nutc imac

AI Security

Day 14

2026-09-07

181

0

合法呼叫湊出的攻擊鏈：AI Agent 防禦的 30 天觀念養成系列

Day 14｜Agent 的執行環境要根據什麼標準來判斷執行路徑是否符合要求？

前言 Day 13 讓我多注意到關於legitimacy_reference的可討論問題。執行環境要判斷一個工具呼叫能不能執行的時候，手上除了使用者、工具、參...

tdoh_ray

團隊四點還吃牛肉man

AI Security

Day 1

2026-08-28

181

0

打開黑盒子：大型語言模型的機制解釋性入門系列

Day 1｜為什麼要打開黑盒子？

2026 年 7 月，OpenAI 在進行 AI 模型網路攻防能力的內部評估時，發生了一起意料之外的事件。測試中，AI agent 原本被限制在隔離的評估環境...

howardhsuuu

AI Security

Day 28

2026-09-15

181

0

從法條到程式碼：台灣 AI 治理與資安合規實戰指南系列

Day 28：供應鏈與模型／套件治理

📝 本系列為 iThome 鐵人賽學習筆記，屬個人教學與非商業用途；文中法規與標準內容均以自身理解後的話轉述並註明出處，非逐字引用。階段四｜怎麼落地：從...

熊熊工程師

團隊不買股票買機票

AI Security

Day 24

2026-09-02

181

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

Guardrails 實戰：用框架建立護欄

查核資訊：本文於 2026-08-24 查核 NeMo Guardrails 0.23.0 release notes、Python check_async...

Eric

AI Security

Day 10

2026-09-23

181

0

淺談OWASP Top 10 for Large Language Model Applications 系列

淺談OWASP Top 10 for LLM Applications-Sensitive Information Disclosure 怎麼防

Day 10｜Sensitive Information Disclosure 怎麼防？前面兩篇介紹了敏感資訊洩漏是什麼，以及為什麼 LLM 可能把不該透露的...

jj900314