2026 iThome 鐵人賽

AI Security

最新文章熱門文章

選手 33 文章 821

AI Security

Day 5

2026-08-29

180

Agent的系統防禦升級系列

DAY 5 // 自適應攻擊（Adaptive Attack）與動態防禦的終極賽局

資訊安全與智慧監控領域，網路安全早已脫離「靜態規則匹配」的時代。深度學習與自動化檢測技術的引進，安全防禦體系變得非常精準。攻擊者催生了一場更具威脅力的演化——自...

infi1156

團隊四點還吃牛肉man

AI Security

Day 13

2026-09-01

180

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（13）：AI 輸出沒處理就送進系統，會出什麼事？（重啟）

前面的系列文，主要都在看「輸入」會對模型造成什麼影響，這一篇我們來看看模型的「輸出」進到系統之後，會發生什麼事？ 2024 年 6 月 JFrog 公開了一個...

Vivian

AI Security

Day 27

2026-08-27

180

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 27｜候選不是漏洞：在本機重現兩個命令注入

昨天那個本機模型表現得很難看。編號幾乎全錯，五條能核對的候選裡只有一條行號對、而那一條把原因講錯了，乾淨的檔案上還亂報一條。那個模型是 Cisco 放出來的...

cyt0809

AI Security

Day 2

2026-09-11

180

《30 天打造 AI Guardrails》系列

Day 2｜護欄不是內容審查：安全（safety）與資安（security）的分界

一個會議室裡發生過的對話「我們的 AI 護欄上線了，仇恨言論、色情、暴力內容都擋得住。」「那 prompt injection 呢？」「……那個不是內容審查的...

Fngi

AI Security

Day 5

2026-09-01

179

打開黑盒子：大型語言模型的機制解釋性入門系列

Day 5｜我挖到線索了，但它們代表什麼？

上一篇我們用 Linear Probe 做了一件很簡單、直觀的事情，利用模型某層的 activation，嘗試訓練簡單的線性分類器，判斷是否存在與我們關心的「概...

howardhsuuu

AI Security

Day 8

2026-09-09

179

把 AI 接進 SOC 系列

【Day 8】自己寫偵測規則

昨天講完告警的結構跟等級。今天想講我自己寫的那批自訂規則——為什麼要自己寫、內容大概涵蓋什麼,以及中間一個讓我卡了一陣子、後來才想通的設計問題。為什麼要自己...

vincentyc