iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

AI 時代的紅藍隊攻防:從 LLM 漏洞剖析到 AI Agent 安全實戰 系列

隨著生成式 AI 與 LLM(大型語言模型)的爆發性成長,AI 系統已深入企業與開發流程中。然而,AI 帶來的全新架構也誕生了前所未有的攻擊面——從 Prompt Injection、Jailbreaking 到 AI Agent 的權限控制與模型供應鏈漏洞,傳統資安防護已不足以完全涵蓋這些新型態威脅。

本系列文章將以 AI Security(AI 資安) 為核心,透過 30 天的實戰與案例分析,深入探索 AI 系統的漏洞剖析與防守策略。

參賽天數 11 天 | 共 12 篇文章 | 1 人訂閱 訂閱系列文 RSS系列文
DAY 11

Day 11:RAG 系統運作機制與 Vector DB 攻擊面

RAG(檢索增強生成)架構與安全盲點RAG(Retrieval-Augmented Generation)為了彌補 LLM 知識庫更新不及與幻覺問題,引入了外...

DAY 11

Day 12:Embedding 污染與向量鄰近攻擊(Vector Proximity Attack)

攻擊原理:操控語意空間距離Embedding 模型將任意長度的文字映射至高維度的向量空間中。語意相似的文字,其向量距離(如 Cosine Distance 或...