本系列會先用 Microsoft Foundry 做一個刻意不安全的 Agent,從 Prompt Injection、MCP 供應鏈、工具越權、資料外洩,攻到 Multi-agent delegation。每天先重現副作用,再依 Threat、Attack、Fix、Test、Residual Risk,補回身分、授權、資料邊界、人工核准、監控與事件應變等。帶領大家一步步理解現今 Agentic AI 的資安研究。
Day 10 已經把工具清單縮到每個角色真正需要的範圍。Bob 是主管,所以 approve_expense 出現在他的 allowlist,看起來很合理。 問...
昨天我們不相信模型交出的 expense_id。今天再往外走一步:連模型看到的工具說明,也不能因為來自 MCP server 就自動相信。 大魔術熊貓工程司核准...
Day 12 把 MCP manifest 固定下來了,但一個 Agent release 從來不只包含 MCP。 大魔術熊貓工程司有兩份 system ins...