iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

從 Web 到 AI Agent:30 天看懂新世代資安攻防 系列

AI 已經不只是聊天工具,而是逐漸能寫程式、呼叫外部工具、保存記憶,甚至自行規劃與執行任務。當 AI 能力變強,新的資安風險也跟著出現。本系列將用 30 天帶你從傳統 Web 資安一路認識到 LLM 與 AI Agent 的新型攻擊,包括 Injection、Broken Access Control、Prompt Injection、Jailbreak、敏感資料外洩、Tool Abuse、Memory Poisoning 等常見風險。

參賽天數 13 天 | 共 13 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文 |團隊鳳梨田 NPC
DAY 11

攻擊不一定看得見:多模態、隱形字元與編碼型 Prompt Injection

你看到一張普通的醫學影像,模型看到的卻可能還多一句指令。 Clusmann 等人(2025)在 Nature Communications 上測了這件事。他們把...

2026-09-17 ‧ 由 willysong 分享
DAY 12

System Prompt 藏起來就安全了嗎?Sensitive Information 與 Hidden Context

System Prompt 使用者平常看不到,是不是就代表裡面的東西很安全?不一定。 把 API Key 或資料庫密碼寫進 System Prompt,再補一句...

2026-09-18 ‧ 由 willysong 分享
DAY 13

AI 回傳什麼,程式就執行什麼?Improper Output Handling

AI 說了一句話,為什麼最後可能變成一次攻擊? 問題往往不在模型,而在誰接手了模型的輸出。 把 AI 想成一名翻譯員。他交出來的是文字,沒問題。有問題的是後面那...

2026-09-19 ‧ 由 willysong 分享