2026 iThome 鐵人賽

AI Security

最新文章熱門文章

選手 33 文章 694

AI Security

Day 7

2026-08-07

208

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 7｜AI 幻想出來的套件名，有可能變成真的

昨天我們把來路不明的腳本關進容器裡跑，重點是「執行的時候給它多少」。今天走到前面一格：那個東西是怎麼進到你機器上的。多半是這樣。你問 AI 怎麼做某件事，它給...

cyt0809

AI Security

Day 7

2026-08-16

206

Microsoft Foundry 的 AI Agent 攻防實戰：建立高資安與可治理的 Agent 系統系列

Day 07｜Microsoft Foundry 的 AI Agent 攻防實戰：搜尋第一名的政策，不一定有資格當政策

昨天直接指定文件 ID，檢查毒文件進入 context 後的工具授權。今天往前追一步：Alice 正常搜尋政策時，會先拿到哪份文件？下面先列出她的查詢，以及脆...

大魔術熊貓工程師

AI Security

Day 6

2026-08-06

203

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 6｜AI 其實有能力控制你整台電腦

昨天修的是它寫進專案裡的東西。那種東西你有機會先讀過再合進去，就算沒讀，它躺在 diff 裡等你。今天這種不一樣。它叫你直接跑。先看一件已經發生過的事。20...

cyt0809

AI Security

Day 8

2026-08-27

203

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（08）：越獄 AI，jailbreak 到底在越什麼獄？（重啟）

前一篇介紹 Prompt Injection 時，我們提到模型會同時閱讀指令與資料，但兩者之間沒有像程式那樣明確、不能跨越的界線，所以混在資料裡的外部文字才有機...

Vivian

AI Security

Day 1

2026-08-25

202

Agent的系統防禦升級系列

DAY 1 // Agent 安全防禦機制的運作原理

Agent（智慧代理），就是一個自主執行的系統。以LLM（大語言模型）為核心推理引擎，因為有LLM才能讓Agent持續運作。以LLM的核心架構中，Agent就能...

infi1156

團隊四點還吃牛肉man

AI Security

Day 13

2026-08-13

202

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 13｜我沒按過上傳，知識庫卻多了 356 段

昨天結尾我留了一個問題：你把內部文件整批塞進向量庫，那些文件是誰寫的。今天我去數自己那套。第一件事就卡住了：我那套知識庫，根本沒有「塞進去」這個動作。你可能...

cyt0809