iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

Microsoft Foundry 的 AI Agent 攻防實戰:建立高資安與可治理的 Agent 系統 系列

本系列會先用 Microsoft Foundry 做一個刻意不安全的 Agent,從 Prompt Injection、MCP 供應鏈、工具越權、資料外洩,攻到 Multi-agent delegation。每天先重現副作用,再依 Threat、Attack、Fix、Test、Residual Risk,補回身分、授權、資料邊界、人工核准、監控與事件應變等。帶領大家一步步理解現今 Agentic AI 的資安研究。

參賽天數 13 天 | 共 13 篇文章 | 1 人訂閱 訂閱系列文 RSS系列文
DAY 11

Day 11|Microsoft Foundry 的 AI Agent 攻防實戰:工具合法,為什麼還能核准別人的費用?

Day 10 已經把工具清單縮到每個角色真正需要的範圍。Bob 是主管,所以 approve_expense 出現在他的 allowlist,看起來很合理。 問...

DAY 12

Day 12|Microsoft Foundry 的 AI Agent 攻防實戰:MCP 被攻擊的手段

昨天我們不相信模型交出的 expense_id。今天再往外走一步:連模型看到的工具說明,也不能因為來自 MCP server 就自動相信。 大魔術熊貓工程司核准...

DAY 13

Day 13|Microsoft Foundry 的 AI Agent 攻防實戰:Agent 供應鏈 Release Gate

Day 12 把 MCP manifest 固定下來了,但一個 Agent release 從來不只包含 MCP。 大魔術熊貓工程司有兩份 system ins...

大魔術熊貓工程師的收藏
大魔術熊貓工程師的追蹤
大魔術熊貓工程師的Like
大魔術熊貓工程師的紀錄