鐵人檔案
AI 已經不只是聊天工具，而是逐漸能寫程式、呼叫外部工具、保存記憶，甚至自行規劃與執行任務。當 AI 能力變強，新的資安風險也跟著出現。本系列將用 30 天帶你從傳統 Web 資安一路認識到 LLM 與 AI Agent 的新型攻擊，包括 Injection、Broken Access Control、Prompt Injection、Jailbreak、敏感資料外洩、Tool Abuse、Memory Poisoning 等常見風險。
談 AI Security 先別急著記名詞，要先知道兩個核心問題：保護誰？威脅來自誰？ Security of AI｜保護 AI，抵禦外部攻擊包含 Prompt...
AI 資安最危險的地方，不只是「出現假的資訊」，而是假的東西能不能一路變成真的動作。 把 AI 系統想成一棟有 AI 管家的智慧大樓。 Web 是門窗。SQL...
想保護一套系統，第一步不是急著裝防火牆，而是先把資料怎麼走畫出來。 可以把系統想成一棟房子：使用者、Web 後端、資料庫、LLM、外部工具是不同房間；資料流是走...
合法靶場不是無限通行證。授權解決的是「對方是否同意你測」，不代表超出範圍或測試造成的損害都能一筆勾銷。就像射擊場允許你開火，也不代表可以朝隔壁靶位亂射。 因此，...
Injection 的核心問題其實只有一句話：系統把原本應該只是「資料」的東西，誤當成了「指令」。OWASP 也將 Injection 描述為不可信資料被送進...
凌晨三點，系統吐出十萬行 Log：登入失敗暴增、API 大量回傳 403、WAF 又攔到可疑請求。逐行看完不可能，這種時候 AI 確實幫得上忙——把相似事件分群...
上一篇的結論是：AI 看 Log 會誤判，因為它手上只有那一段 Log。把場景換成程式碼，同一個限制會換一種方式出現。 把 AI 放進 Code Review，...
Day 07 談的是 AI 讀別人的程式碼。這一篇換成 AI 自己寫的。 AI 幫你生了一個登入功能：測試全過，跑起來也沒事。但 JWT 沒設過期時間，簽章金鑰...
一句「忽略前面指令」不是萬能密碼。它可能成功、也可能失敗，取決於模型、提示怎麼設計，以及應用程式做了哪些防護。 這就是 Day 05 那張紙條，只是這次遞給的是...
Direct Prompt Injection 是使用者自己遞出惡意紙條。Indirect Prompt Injection 的紙條，早就夾在你要讀的文件裡。...
