2026 iThome 鐵人賽

AI Security

Day 4

2026-08-13

199

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

打造你的資安實驗室：環境建置

查核資訊：本文的 Ollama API 說明已於 2026-08-12 依官方文件再次查核。本機實驗於 2026-08-06 完成，當時使用 Ollama...

Eric

AI Security

Day 17

2026-08-26

198

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

向量資料庫與 Embedding 的安全議題

查核資訊：本文於 2026-08-12 完成查核。查核範圍包括 OWASP LLM09:2026 Vector and Embedding Weakness...

Eric

AI Security

Day 15

2026-08-15

198

0

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 15｜模型一句話都沒違反，工具卻被 302 帶進內網

昨天結尾我說要做一件很簡單的事：agent 有一個抓網頁的工具，網址那格是模型填的，那就塞一個內網位址進去，看它會不會去打。今天做了，三十發。結論跟我想的不一...

cyt0809

AI Security

Day 12

2026-08-21

197

0

Microsoft Foundry 的 AI Agent 攻防實戰：建立高資安與可治理的 Agent 系統系列

Day 12｜Microsoft Foundry 的 AI Agent 攻防實戰：MCP 被攻擊的手段

Day 11 檢查了工具提案的參數。今天往前看：模型用來理解工具的 description 與 schema，也可能被更換。工程司已核准一個供應商目錄 MCP...

大魔術熊貓工程師

AI Security

Day 3

2026-08-12

197

0

Microsoft Foundry 的 AI Agent 攻防實戰：建立高資安與可治理的 Agent 系統系列

Day 03｜Microsoft Foundry 的 AI Agent 攻防實戰：故意開漏洞

昨天準備了 Project endpoint、Entra 身分與 Agent Framework 的無工具模型呼叫。2026-09-25 的新紀錄已在既有基準部...

大魔術熊貓工程師

AI Security

Day 4

2026-08-23

197

0

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（04）：打 AI 跟打傳統系統有什麼不一樣？AI Red Team 在測什麼？（重啟）

上一篇我們提到，生成式 AI 已經成為現今防守方與攻擊者的工具，今天要再往前一步，看很多滲透測試工程師第一次接觸 AI 都會遇到的觀念轉換，打 AI 和打傳統系...

Vivian