隨著生成式 AI 與 LLM(大型語言模型)的爆發性成長,AI 系統已深入企業與開發流程中。然而,AI 帶來的全新架構也誕生了前所未有的攻擊面——從 Prompt Injection、Jailbreaking 到 AI Agent 的權限控制與模型供應鏈漏洞,傳統資安防護已不足以完全涵蓋這些新型態威脅。
本系列文章將以 AI Security(AI 資安) 為核心,透過 30 天的實戰與案例分析,深入探索 AI 系統的漏洞剖析與防守策略。
RAG(檢索增強生成)架構與安全盲點RAG(Retrieval-Augmented Generation)為了彌補 LLM 知識庫更新不及與幻覺問題,引入了外...
攻擊原理:操控語意空間距離Embedding 模型將任意長度的文字映射至高維度的向量空間中。語意相似的文字,其向量距離(如 Cosine Distance 或...