2026 iThome 鐵人賽

AI Security

Day 14

2026-09-28

213

0

一個 Agent 我查不動，一個我改得動：內部威脅偵測的 30 天系列

回頭看 Day1：同一支會當掉的 hook，omp 擋下、Cursor 放行——那 11 天，其實是一個預設值

昨天（Day13）我決定把模型移出熱路徑：hook 照舊只寫紀錄，問 Jev 的事交給另一支常駐程式慢慢做。那篇誠實欄的最後一條寫著：「答案晚到，代價是它不能拿...

vidici

AI Security

Day 9

2026-09-02

213

0

合法呼叫湊出的攻擊鏈：AI Agent 防禦的 30 天觀念養成系列

Day 9｜關於 Agent 防禦的流程拆解

前言第一代的防禦方式，主要是在內容送進主要模型之前，先判斷輸入內容是否可能包含攻擊，或先對外部資料進行處理。這類方法的共同點，是試圖從「內容本身」降低 Pro...

tdoh_ray

團隊四點還吃牛肉man

AI Security

Day 4

2026-08-31

212

0

打開黑盒子：大型語言模型的機制解釋性入門系列

Day 4｜如果模型裡有「概念」，我們怎麼把它讀出來？

上一篇我們提出了一個可能的想法：模型會在 Residual Stream 中形成 representation，而其中一些 concept，可能可以用 acti...

howardhsuuu

AI Security

Day 19

2026-08-28

212

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

工具呼叫 / Function Calling 的風險

查核資訊：本文於 2026-08-15 查核 OpenAI Function calling、OWASP LLM Top 10 2026、CWE-918 與...

Eric

AI Security

Day 30

2026-09-08

212

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

總結：LLM 應用安全檢查清單與心法

查核資訊：本文於 2026-08-25 查核 NIST AI Risk Management Framework、NIST AI 600-1、NIST SP...

Eric

AI Security

Day 11

2026-08-24

212

0

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

AI 界的無色無味毒藥：0.1% 的惡意樣本就能植入模型後門

大家好，昨天我們聊了怎麼在照片上加雜訊來騙過 AI 的眼睛（對抗性樣本）。今天，我們要來看一個更陰險、也更難防守的訓練期攻擊：資料投毒攻擊（Data Poiso...

6r556ox