iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

Agent的系統防禦升級 系列

Agent 在呼叫外部工具時,容易受到竄改內容影響,導致間接提示注入,達成不越權的攻擊,目標是要在 Gatekeeper的攔截更完善。

參賽天數 22 天 | 共 22 篇文章 | 2 人訂閱 訂閱系列文 RSS系列文 團隊四點還吃牛肉man
DAY 1

DAY 1 // Agent 安全防禦機制的運作原理

Agent(智慧代理),就是一個自主執行的系統。以LLM(大語言模型)為核心推理引擎,因為有LLM才能讓Agent持續運作。以LLM的核心架構中,Agent就能...

2026-08-25 ‧ 由 infi1156 分享
DAY 2

DAY 2 // 面對Agent的Gatekeeper,駭客如何做出不越權攻擊?

大語言模型(LLM)從單純聊天對話框走向能夠自主規劃、呼叫外部API的Agent,系統安全的邊界出現轉變。過往資安防禦的核心邏輯,往往建立在存取控制與邊界防禦之...

2026-08-26 ‧ 由 infi1156 分享
DAY 3

DAY 3 // 解析LLM Agent中的「能力狀態機」防禦機制

人工智慧從單純的問答模型走向具備自主執行能力的Agent時代,靜態的資訊安全防禦模型隨時都有新的攻擊手法。過往的存取控制大多採用全有或全無的靜態權限策略,只要系...

2026-08-27 ‧ 由 infi1156 分享
DAY 4

DAY 4 || LLM Agent 的「記憶污染」與 RAG 架構安全防線

大語言模型(LLM)具備強大的推理能力,但其上下文視窗(Context Window)的限制與無法即時更新知識的特性,讓企業在部署Agent時,普遍會結合檢索增...

2026-08-28 ‧ 由 infi1156 分享
DAY 5

DAY 5 // 自適應攻擊(Adaptive Attack)與動態防禦的終極賽局

資訊安全與智慧監控領域,網路安全早已脫離「靜態規則匹配」的時代。深度學習與自動化檢測技術的引進,安全防禦體系變得非常精準。攻擊者催生了一場更具威脅力的演化——自...

2026-08-29 ‧ 由 infi1156 分享
DAY 6

DAY 6 // 生成對抗網路(GAN)如何運作?

生成對抗網路是由 AI 學者伊恩·古德費洛(Ian Goodfellow)於 2014 年提出的一種深度學習架構。 機器學習演算法多用於「分類」或「預測」,而...

2026-08-30 ‧ 由 infi1156 分享
DAY 7

DAY 7 // 大語言模型中的「間接提示注入」攻擊

生成式AI近期迅速發展,過去熟悉的 AI 攻擊多半屬於直接提示注入(Direct Prompt Injection),即使用者直接輸入特製語句,藉此越獄(Jai...

2026-08-31 ‧ 由 infi1156 分享
DAY 8

DAY 8 // AgentDojo 攻防戰場與評估架構

隨著大語言模型(LLM)進化為能夠主動呼叫 API、讀取信件與處理資料庫的「智慧代理(LLM Agent)」,傳統的資安防禦邏輯正被徹底顛覆。當 Agent 被...

2026-09-01 ‧ 由 infi1156 分享
DAY 9

DAY 9 // AgentDojo環境衝突實作開始

本文紀錄今天從安裝、除錯到成功載入套件的實作過程。 初始安裝與環境落差 在 Terminal 中嘗試以預設指令進行安裝: py -m pip install...

2026-09-02 ‧ 由 infi1156 分享
DAY 10

DAY 10 // PEP 668在開發期間的功用及防護

PEP 668(Marking Python Packages as Externally Managed)是 Python 官方在 Python 3.11 提...

2026-09-03 ‧ 由 infi1156 分享