2026 iThome 鐵人賽

AI Security

最新文章熱門文章

選手 33 文章 821

AI Security

Day 2

2026-08-26

268

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列

Day 2｜CaMeL怎麼設計來擋這個問題：雙模型分工與capability機制

今天延伸昨天所講的，分別說明CaMeL如何把「決定做什麼」和「讀外部資料」拆給兩個分工的模型，看它實際上是怎麼運作的，這也是接下來要加以修改的部分，機制細節先了...

jerry940917

團隊四點還吃牛肉man

AI Security

Day 16

2026-08-29

268

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

AI 說壞話的藝術：DAN 與 Many-shot 越獄攻防戰

大家好，今天我們要來講大語言模型（LLM）安全的最後一個攻防戰：越獄攻擊（Jailbreaking）。「越獄」這個詞大家應該不陌生。以前買了 iPhone，為...

6r556ox

AI Security

Day 13

2026-08-26

266

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

AI 腦袋裡的隱私小偷：模型反轉與成員推斷攻擊

大家好，今天我們要來看看，另外兩種針對隱私資料的推論期攻擊：模型反轉攻擊與成員推斷攻擊。你可能在公司做專案時會想：「我們上傳了幾千筆病患的基因資料來訓練 AI...

6r556ox

AI Security

Day 23

2026-09-01

266

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

輸出端防禦：過濾、審核與安全渲染

查核資訊：本文於 2026-08-23 查核 OWASP LLM10:2026、OWASP Cross Site Scripting Prevention...

Eric

AI Security

Day 19

2026-08-19

265

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 19｜AI 擋住了命令注入，卻把功能一起刪了

叫 AI 修一個資安問題，它交回來，測試全綠。那份修法可能是把整個功能刪掉了，而你的測試看不出差別。今天在自己的 daemon 上找到一個那樣的洞，順手叫模型...

cyt0809

AI Security

Day 1

2026-08-20

264

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（01）：AI 為什麼會成為攻擊目標？（重啟）

大家好，我是 Vivian，一個閒不下來的在職媽媽，目前是一名從事滲透測試工作的工程師，我一直很喜歡挑戰新事物，也習慣每年替自己設定一個新目標，今年我想挑戰一次...

Vivian