iT邦幫忙

2026 iThome 鐵人賽

DAY 1
0
AI Security

《Agentic AI 攻防 1~30 天》系列 第 1

Day 1|系列開場:為什麼 Agentic AI 攻防要放進 GCP Security 框架思考

  • 分享至 

  • xImage
  •  

從防線設計,走到攻防對抗

8 月的《30 天用 GCP Security 打造企業級 AI 安全防線》,講的是「怎麼把防線設計對」——IAM 怎麼分層、資料邊界怎麼圈、模型怎麼過濾。這個系列要換一個視角:防線設計對了,不代表真正面對攻擊手法時撐得住。 這 30 篇會用紅隊攻擊、藍隊防禦的實戰對抗形式,把 Agentic AI 這個新戰場攤開來看,並完整展開我在 AAday 2026 演講《從 POC 到生產:企業 Agentic Automation 落地的 5 個架構陷阱與紅藍對抗》裡的五大架構陷阱。

為什麼 Agent 是一個全新的攻擊面

Week 1-5 的技術內容談的多半是「靜態」的防線——身份、網路、資料邊界一旦設好,相對穩定。但 Agent 不一樣:它會自主決策、自主呼叫工具、甚至在多 Agent 協作場景下自主跟其他 Agent 交換資訊。這種動態的自主性,正是傳統應用安全思維套不上去的地方——你沒辦法窮舉所有可能的執行路徑,因為 Agent 本身就是被設計來「自己想辦法」的。

沿用同一套 GCP Security 骨幹

這個系列不是丟開 8 月建立的骨幹重新來過,而是延續同一套 GCP Security 服務——IAM、VPC Service Controls、Cloud Armor、Secret Manager——只是這次的敘事是「當 Agent 具備自主性之後,這些服務要怎麼被重新盤點、重新設計」。也會加入 Google 開放權重的護欄分類器 ShieldGemma,這部分是我目前在公司實際研究與開發的題目,會在 Week 3 完整分享概論與實測心得。

概念主軸依然是 SAIF

延續 8 月系列的做法,這 30 篇同樣以 Google 的 **Secure AI Framework(SAIF)**六大要素作為概念主軸,只是這次的重點會落在 SAIF 談的「威脅演進」與「回饋循環」這兩個要素上——Agent 帶來的攻擊面持續在變化,防禦策略也需要持續調適,這正是 SAIF 強調的核心精神。

週次 主題 對應 SAIF 要素
Week 1 Agent 架構與威脅建模 擴展安全基礎至 AI 生態系、將風險置於業務脈絡
Week 2 紅隊視角:攻擊面與 GCP 控制盲點 擴展偵測與應變至 AI 威脅範疇
Week 3 藍隊防禦:GCP 原生工具鏈 + ShieldGemma 自動化防禦、統一平台層級控制
Week 4 編排層與治理風險(五大架構陷阱) 統一平台層級控制、調適控制與回饋循環
Week 5 案例、治理與展望 調適控制與回饋循環、業務脈絡化

30 天路線圖

Week1 建立 Agent 架構與威脅建模的共同語言,Week2 從紅隊視角實際演練攻擊手法,Week3 用 GCP 原生工具鏈與 ShieldGemma 建立藍隊防線,Week4 完整展開 AAday 五大架構陷阱,Week5 收斂案例、治理心法與展望。

明天先解剖 Agent 架構本身——在談攻防之前,要先確定我們對「Agent」講的是同一件事。


系列文
《Agentic AI 攻防 1~30 天》1
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言