2026 iThome 鐵人賽

AI Security

最新文章熱門文章

選手 11 文章 86

AI Security

Day 9

2026-08-10

180

AI 黑魔法：30 天拆解 AI 系統攻擊面系列

AI 黑魔法（09）：藏在文件裡的咒語，間接注入與 RAG 污染

AI 黑魔法（07）把 Prompt Injection 分成直接與間接兩種，直接注入很直白、很好理解，就是攻擊者坐在聊天視窗前，把攻擊 payload 餵給...

Vivian

AI Security

Day 1

2026-08-10

235

Microsoft Foundry 的 AI Agent 攻防實戰：建立高資安與可治理的 Agent 系統系列

Day 01｜Microsoft Foundry 的 AI Agent 攻防實戰：AI Security 不是 AI Safety

Microsoft Foundry 是 Microsoft 用來組織模型、Agent、工具、評測、觀測與治理能力的平台。它能協助團隊管理雲端身分與平台資源，卻不...

大魔術熊貓工程師

AI Security

Day 1

2026-08-10

163

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

我從模型的不確定性開始理解 LLM 應用資安

查核資訊：本文於 2026-08-03 依 OWASP、NIST 與 MITRE 官方資料查核。LLM、Agent 與相關風險分類仍在演進；後續文章涉及特定...

Eric

AI Security

Day 9

2026-08-09

118

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 9｜AI 幫你驗過了，但驗在哪一邊?

表單我都有驗啊。長度、格式、必填全擋了。今天先用一行指令讓那些限制通通不存在，然後把昨天結尾答應的那條線畫出來。前端這道擋得住一個改數量的欄位，長這樣：...

cyt0809

AI Security

Day 8

2026-08-09

199

AI 黑魔法：30 天拆解 AI 系統攻擊面系列

AI 黑魔法（08）：越獄 AI，jailbreak 到底在越什麼獄？

前一篇介紹 Prompt Injection 時，我們提到模型會同時閱讀指令與資料，但兩者之間沒有像程式那樣明確、不能跨越的界線，所以混在資料裡的外部文字才有機...

Vivian

AI Security

Day 8

2026-08-08

136

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 8｜你裝的那幾個 MCP，碰得到什麼

昨天我們把套件名字一個一個丟到註冊處查，查完發現有些名字根本不存在，而不存在的那些反而是最危險的。今天換一批東西。上週為了省事裝了三個 MCP server。...

cyt0809