鐵人檔案
本系列會先用 Microsoft Foundry 做一個刻意不安全的 Agent，從 Prompt Injection、MCP 供應鏈、工具越權、資料外洩，攻到 Multi-agent delegation。每天先重現副作用，再依 Threat、Attack、Fix、Test、Residual Risk，補回身分、授權、資料邊界、人工核准、監控與事件應變等。帶領大家一步步理解現今 Agentic AI 的資安研究。
前面的本機流程已經有身分、物件授權與網路政策。今天把 Prompt Shields 的訊號接進來，觀察偵測結果與 PEP 如何一起決定操作。 Alice 提出這...
昨天把 Prompt Shields 當作 deny-only 訊號加入授權流程。今天再把內容風險、工具覆蓋範圍與 application PEP 放在一起，檢...
高風險操作可以先停下來，讓人確認。但要讓核准有效，系統還得確認：Bob 看見、同意與 executor 最後執行的，是不是同一筆交易？ 今天沿用工程司的費用核准...
今天把固定案例交給 PyRIT 編排，再讓 scorer 讀取真正的工具結果。先看 D24-A01 的使用者要求，以及 runtime 最後的回覆： 我今天代...
昨天的五筆 PyRIT 結果已保存 Receipt 與副作用。今天讀取同一份 campaign report，試著把 evaluator label 接進報表。...
昨天我們用評測結果與工具紀錄，檢查 Agent 有沒有造成不該發生的副作用。今天接著看另一份資料：執行過程留下的 trace。 Trace 能幫我們找到請求卡在...
昨天處理 trace 的內容與讀取邊界。今天使用決策事件觸發告警，再把它接到撤權、文件隔離與 kill switch。 處置也可能被重送。同一個 webhook...
Day 27 處理了停止工具與隔離文件。今天把一次月底對帳請求交給多個 Agent，看看 fan-out、retry 與 fallback 會如何增加工作量。...
Day 28 限制了 fan-out、fallback 與 retry，現在接著處理路由裡的權限。假設 planner 送來 subject="ali...
最後一天，我們把前面的案例放進同一個發布檢查流程。先分開兩組資料：Day 01～30 的驗收測試用來檢查各日程式；計算指標的固定資料集則有 24 筆案例，涵蓋...
