2026 iThome 鐵人賽

AI Security

Day 2

2026-08-21

252

0

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（02）：AI 為什麼會一本正經地胡說八道？從 AI、ML 到 GenAI 的運作原理（重啟）

2023 年一位美國律師在準備訴訟資料時，請 ChatGPT 幫忙找相關判例，ChatGPT 很快列出六個案例，案件名稱、判決內容、引用格式一應俱全，看起來完全...

Vivian

AI Security

Day 16

2026-08-17

251

0

AI 黑魔法：30 天拆解 AI 系統攻擊面系列

AI 黑魔法（16）：MCP 把工具接起來，也把風險一起接進來

上一篇我們把 Agent 拆成模型、工具、記憶、設定檔與自主迴圈，但當工具越接越多，就碰到一個工程問題：不同的 AI 應用，能不能用一種共同語言去連這些東西？...

Vivian

AI Security

Day 2

2026-09-01

251

0

30 天認識 AI Security：從 LLM 攻擊到 AI 防禦系列

Day 2｜LLM 是什麼？了解 AI Security 前，你必須先知道大型語言模型如何運作

在上一篇文章中我們介紹了 AI Security 的概念，也提到近年來大型語言模型（Large Language Model，LLM）逐漸成為企業導入 AI 的...

chichi0513

AI Security

Day 6

2026-08-07

248

0

AI 黑魔法：30 天拆解 AI 系統攻擊面系列

AI 黑魔法（06）：站在巨人肩膀上，AI 安全框架怎麼選？

上一篇我們把 AI 的攻擊面拆成資料、模型、應用、系統與供應鏈五塊，畫了一張關聯圖。這篇我們要來認識 AI 安全框架，你可以把框架想成是別人整理好的懶人包，但...

Vivian

AI Security

Day 10

2026-08-19

248

0

Microsoft Foundry 的 AI Agent 攻防實戰：建立高資安與可治理的 Agent 系統系列

Day 10｜Microsoft Foundry 的 AI Agent 攻防實戰：工具清單被濫用

昨天限制了 memory 能保存的內容。今天回到工具：即使每一個工具都有正常用途，串接後仍可能把資料送到不該去的地方。我們用現有的匯出與通知工具重現這條路徑：...

大魔術熊貓工程師

AI Security

Day 3

2026-08-12

243

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

OWASP Top 10 for LLM Applications 全覽

查核資訊：本文於 2026-08-05 依 OWASP GenAI Security Project 官方文件初次查核，並於 2026-08-12 完成最終...

Eric