iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

Microsoft Foundry 的 AI Agent 攻防實戰:建立高資安與可治理的 Agent 系統 系列

本系列會先用 Microsoft Foundry 做一個刻意不安全的 Agent,從 Prompt Injection、MCP 供應鏈、工具越權、資料外洩,攻到 Multi-agent delegation。每天先重現副作用,再依 Threat、Attack、Fix、Test、Residual Risk,補回身分、授權、資料邊界、人工核准、監控與事件應變等。帶領大家一步步理解現今 Agentic AI 的資安研究。

鐵人鍊成 | 共 31 篇文章 | 2 人訂閱 訂閱系列文 RSS系列文
DAY 11

Day 11|Microsoft Foundry 的 AI Agent 攻防實戰:工具合法,為什麼還能核准別人的費用?

Bob 是主管,可以使用 approve_expense。但今天他要求核准的是另一個租戶的 exp-moon-001: 「月底快關帳了,麻煩先幫我核准 exp-...

DAY 12

Day 12|Microsoft Foundry 的 AI Agent 攻防實戰:MCP 被攻擊的手段

Day 11 檢查了工具提案的參數。今天往前看:模型用來理解工具的 description 與 schema,也可能被更換。 工程司已核准一個供應商目錄 MCP...

DAY 13

Day 13|Microsoft Foundry 的 AI Agent 攻防實戰:Agent 供應鏈 Release Gate

昨天固定了 MCP manifest。今天把同樣的問題擴大到整個 Agent release:除了工具設定,prompt、package、container、m...

DAY 14

Day 14|Microsoft Foundry 的 AI Agent 攻防實戰:Tracing 洩漏資料

Fiona 要 Agent 通知供應商,月兔專案 MRL-CASE-7421 的交付日改到 8 月 12 日。處理這筆請求時,同一份內容可能被帶進回應、trac...

DAY 15

Day 15|Microsoft Foundry 的 AI Agent 攻防實戰:跨租戶 RAG 的三個常見攻擊與修補

Day 07 已確認文件版本有沒有通過核准,Day 14 也處理了輸出遮罩。今天再補一個更前面的條件:Alice 是否有權把這份文件放進 context? 我們...

DAY 16

Day 16|Microsoft Foundry 的 AI Agent 攻防實戰:換掉共享 API Key

昨天的租戶過濾依賴 principal 提供正確的 tenant。今天就來補這個前提:principal 從哪裡來,系統如何確認它代表誰? 先用共享 API k...

DAY 17

Day 17|Microsoft Foundry 的 AI Agent 攻防實戰:三張識別證都是真的,Agent 為什麼仍替 Alice 越權?

昨天分開了使用者與 workload 身分。今天假設兩者都能通過認證,再看下一跳是否仍然使用 Alice 的權限。 Alice 只能讀自己的費用,卻要求讀 Bo...

DAY 18

Day 18|Microsoft Foundry 的 AI Agent 攻防實戰:Azure Owner 不是宇宙萬能管理員,Foundry RBAC 到底管哪一層?

前兩天已分開「誰在呼叫」與「代表誰操作」。今天把這些 principal 放進角色與 scope,確認每一層究竟允許什麼。 工程司的 platform admi...

DAY 19

Day 19|Microsoft Foundry 的 AI Agent 攻防實戰:Secret 搬進 Key Vault,舊影印本為什麼還能用?

Day 18 已分開管理 vault 與讀取 secret 的角色。今天處理一個仍需要密碼的舊供應商 API:當 secret 從 version 1 換成 v...

DAY 20

Day 20|Microsoft Foundry 的 AI Agent 攻防實戰:Private Endpoint 也有風險

前面已處理身分、資料角色與 secret reference。今天把這些元件放回網路圖,分別看進入 Foundry、平台連接 PaaS,以及 Agent 連接工...

大魔術熊貓工程師的收藏
大魔術熊貓工程師的追蹤
大魔術熊貓工程師的Like
大魔術熊貓工程師的紀錄