2026 iThome 鐵人賽

AI Security

Day 7

2026-08-16

117

0

Microsoft Foundry 的 AI Agent 攻防實戰：建立高資安與可治理的 Agent 系統系列

Day 07｜Microsoft Foundry 的 AI Agent 攻防實戰：搜尋第一名的政策，不一定有資格當政策

昨天我們直接指定 vendor-poisoned，確認毒文件進入 context 後仍拿不到工具執行權。那是一個必要的最小實驗，卻跳過了 RAG 攻擊最難的一段...

大魔術熊貓工程師

AI Security

Day 2

2026-08-15

116

0

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

機器學習三大學習方式

大家好，今天我們直接切入 Domain 1 的核心，聊聊機器學習的三大學習方式。首先，我們要先搞懂機器學習跟傳統寫程式的差別：傳統寫程式是我們寫好規則，輸入資...

6r556ox

AI Security

Day 14

2026-08-15

110

0

AI 黑魔法：30 天拆解 AI 系統攻擊面系列

AI 黑魔法（14）：問出 AI 的權限，再讓 AI 替你做壞事（Excessive Agency）

上一篇講模型輸出後可能造成的影響，模型輸出如果直接被塞進 HTML、SQL 或 Shell，最後可能變成 XSS、SQL injection 或 Command...

Vivian

AI Security

Day 15

2026-08-15

121

0

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 15｜模型一句話都沒違反，工具卻被 302 帶進內網

昨天結尾我說要做一件很簡單的事：agent 有一個抓網頁的工具，網址那格是模型填的，那就塞一個內網位址進去，看它會不會去打。今天做了，三十發。結論跟我想的不一...

cyt0809

AI Security

Day 6

2026-08-15

101

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

模型只能提案，不能替自己授權：信任邊界與資料的影響範圍

查核資訊：本文於 2026-08-06 依 OWASP Authorization、Business Logic Security、OAuth 2.0、LL...

Eric

AI Security

Day 6

2026-08-15

100

0

Microsoft Foundry 的 AI Agent 攻防實戰：建立高資安與可治理的 Agent 系統系列

Day 06｜Microsoft Foundry 的 AI Agent 攻防實戰：Alice 沒有下指令，採購文件卻想叫工具做事

昨天我們處理的是 Direct Prompt Injection：攻擊文字由使用者直接送進 request，至少還能指著輸入框說「兇手從這裡進來」。今天 Ali...

大魔術熊貓工程師