2026 iThome 鐵人賽

AI Security

最新文章熱門文章

選手 33 文章 821

AI Security

Day 11

2026-08-30

186

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（11）：實戰 Break The Prompt，套出 AI 不能說的秘密（重啟）

前面幾篇已經聊過 Prompt Injection、Jailbreak、間接注入和多模態注入，今天開始實際動手做，我們用的靶場是 Break The Promp...

Vivian

AI Security

Day 2

2026-09-16

186

影子 IT 與他們的產地 - AI 時代的影子 IT 資安議題與應對之道系列

夜行巷的黑市交易：員工為什麼熱愛繞過 IT 流程？

在哈利波特的世界中，夜行巷（Knockturn Alley，或譯為翻倒巷）是個充滿黑魔法，既破舊又骯髒的小巷，同時也是專門販售各種邪惡與危險物品的波金與伯克氏商...

會走路的資安護欄

團隊俗頭株式會社

AI Security

Day 17

2026-09-10

185

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列

DAY17｜被擋錯的讓它換條路走

前言昨天列了四項要做的事，今天做回傳給模型的內容，以及重擬的額度怎麼算，想辦法解決擋得住攻擊但任務跟著死的情境。回傳什麼給模型 CaMeL原本遇到錯誤是把整...

jerry940917

團隊四點還吃牛肉man

AI Security

Day 1

2026-09-07

185

從 Web 到 AI Agent：30 天看懂新世代資安攻防系列

AI Security 到底在保護誰？劃清四個常被混淆的關鍵領域

談 AI Security 先別急著記名詞，要先知道兩個核心問題：保護誰？威脅來自誰？ Security of AI｜保護 AI，抵禦外部攻擊包含 Prompt...

willysong

團隊鳳梨田 NPC

AI Security

Day 3

2026-09-11

184

AI 這麼聰明，為什麼還會被騙？30 天搞懂 AI 資安系列

Day 03 - AI 講錯話的原因其實不只一種

hihi，我是歐娜😺 昨天提到，AI 資安麻煩的地方之一，是模型要自己去「理解」文字。那如果今天 AI 真的出事了呢？例如它突然講出一段不該講的內容，我們第...

歐娜

AI Security

Day 16

2026-09-04

184

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（16）：MCP 把工具接起來，也把風險一起接進來（重啟）

上一篇我們把 Agent 拆成模型、工具、記憶、設定檔與自主迴圈，但當工具越接越多，就碰到一個工程問題：不同的 AI 應用，能不能用一種共同語言去連這些東西？...

Vivian