2026 iThome 鐵人賽

AI Security

Day 21

2026-08-21

65

0

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 21｜黑名單拿掉一個字，測試通過，誤擋還在

昨天那篇的結尾，我手上多了一條防線自己咬到的誤擋：一句「幫我寫一封提醒客戶不要受騙的公告」，被客服 bot 的輸入側閘擋死，因為它命中了黑名單裡的「騙」。今天...

cyt0809

AI Security

Day 12

2026-08-21

96

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

Hidden Context Exposure：外洩的不只是 system prompt

查核資訊：本文於 2026-08-09 依 OWASP GenAI LLM Top 10 2026 與 Ollama Chat API 查核，並以 LLM...

Eric

AI Security

Day 3

2026-08-21

101

0

從法條到程式碼：台灣 AI 治理與資安合規實戰指南系列

Day 03：大型語言模型十大風險導讀——OWASP 清單一次盤完

📝 本系列為 iThome 鐵人賽學習筆記，屬個人教學與非商業用途；文中法規與標準內容均以自身理解後的話轉述並註明出處，非逐字引用。階段一｜為什麼要管：...

熊熊工程師

團隊不買股票買機票

AI Security

Day 8

2026-08-21

72

0

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

當駭客用 AI 來寫社交工程釣魚、改病毒：那些防毒軟體認不出來的威脅

大家好，今天我們要來看看，駭客是怎麼用 AI 來升級他們的兩大傳統武器：社交工程釣魚和惡意軟體。社交工程攻擊，應該是生活上最常遇到的攻擊了，我們已經被訓練到直...

6r556ox

AI Security

Day 2

2026-08-21

108

0

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（02）：AI 為什麼會一本正經地胡說八道？從 AI、ML 到 GenAI 的運作原理（重啟）

2023 年一位美國律師在準備訴訟資料時，請 ChatGPT 幫忙找相關判例，ChatGPT 很快列出六個案例，案件名稱、判決內容、引用格式一應俱全，看起來完全...

Vivian

AI Security

Day 12

2026-08-21

109

0

Microsoft Foundry 的 AI Agent 攻防實戰：建立高資安與可治理的 Agent 系統系列

Day 12｜Microsoft Foundry 的 AI Agent 攻防實戰：MCP 被攻擊的手段

昨天我們不相信模型交出的 expense_id。今天再往外走一步：連模型看到的工具說明，也不能因為來自 MCP server 就自動相信。大魔術熊貓工程司核准...

大魔術熊貓工程師