2026 iThome 鐵人賽

AI Security

Day 4

2026-09-18

208

0

一個 Agent 我查不動，一個我改得動：內部威脅偵測的 30 天系列

它刪的是測試還是垃圾檔？同一個 write_file，log 裡長得一模一樣

嗨，大家好。測試全綠了。問題是：AI 到底是修好了程式，還是改了測試假裝修好？這兩件事在紀錄裡常常長得一樣——工具名都叫「寫檔」。光看工具名，分不出哪一筆該...

vidici

AI Security

Day 22

2026-09-15

208

0

合法呼叫湊出的攻擊鏈：AI Agent 防禦的 30 天觀念養成系列

Day 22｜AgentDojo 實戰數據解析：搞懂 0% 的內部運作過程

前言前一批實驗留下了一個異常一致的結果。我把同一個設定重複跑了十次——同一個工具型使用者任務、同一批 14 個注入目標、同一種把指令藏進資料裡的注入手法、同一...

tdoh_ray

團隊四點還吃牛肉man

AI Security

Day 12

2026-09-08

207

0

打開黑盒子：大型語言模型的機制解釋性入門系列

Day 12｜如果一個 Neuron 疊加了多種「概念」，我們要怎麼分析？

前面幾篇中，我們一直在尋找模型內部有意義的 representation。我們可以用 Linear Probe 檢查某項資訊能不能從 activation 中...

howardhsuuu

AI Security

Day 14

2026-08-14

207

0

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 14｜改完防護 prompt，總分一模一樣，可是有四條變了

昨天結尾我寫，那些攻擊「各自都打過一次，各自都有紀錄。問題是它們是散的」。先講清楚今天量的是什麼：模型輸出行為的回歸，不是安全保證。防護 prompt 降低...

cyt0809

AI Security

Day 9

2026-08-27

206

0

從法條到程式碼：台灣 AI 治理與資安合規實戰指南系列

Day 09：AI 管理系統（AIMS）導論——ISO/IEC 42001 與台灣 CNS 42001

📝 本系列為 iThome 鐵人賽學習筆記，屬個人教學與非商業用途；文中法規與標準內容均以自身理解後的話轉述並註明出處，非逐字引用。階段二｜誰在管、用什...

熊熊工程師

團隊不買股票買機票

AI Security

Day 3

2026-08-27

206

0

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列

Day 3｜CaMeL的已知代價：plan-then-execute解耦，任務完成率掉多少的背後

昨天留了兩個疑點：P-LLM規劃階段本質上看不到資料，跟任務完成率掉下來，是不是同一件事；還有檢查時機是不是太晚，今天把「代價」這件事攤開來講清楚，探討代價到底...

jerry940917

團隊四點還吃牛肉man