2026 iThome 鐵人賽

AI Security

Day 4

2026-08-04

301

0

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 4｜你說不出它知道多少，因為沒人定義過什麼算敏感

昨天最後留了一個問題：你昨天貼給 AI 的那段錯誤訊息裡面有什麼，你說得出來嗎？我第一次被問到的時候答不出來。不是記性差，是我從來沒把「這段裡面有什麼」當成一...

cyt0809

AI Security

Day 7

2026-08-26

299

0

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（07）：Prompt Injection 是什麼？為什麼 LLM 天生擋不住這道咒語（重啟）

先來看一篇真實案例，2023 年 2 月微軟剛推出整合 ChatGPT 的新版 Bing Chat 沒幾天，史丹佛大學的學生 Kevin Liu 在對話視窗裡打...

Vivian

AI Security

Day 4

2026-09-03

298

0

30 天認識 AI Security：從 LLM 攻擊到 AI 防禦系列

Day 4｜OWASP Top 10 for LLM (2026)是什麼？

上一篇文章我們介紹了幾種 LLM 常見的安全威脅，包括 Prompt Injection、Data Leakage、Jailbreak 與 Tool Abuse...

chichi0513

AI Security

Day 19

2026-10-03

295

0

Medical AI Security Lab：醫療 AI Chatbot 的攻防實驗與自動化 Red Team 系列

Day19｜Input/Output Validation Middleware：規則擋住了一半

今天要解決的問題Day18 的 confound 實驗已經確定一件事：System Prompt 再加規則，邊際效益會變負的——每加一條新規則，都等於給 Sys...

misantropia

團隊 AI Lab 404

AI Security

Day 2

2026-08-15

295

0

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

機器學習三大學習方式

大家好，今天我們直接切入 Domain 1 的核心，聊聊機器學習的三大學習方式。首先，我們要先搞懂機器學習跟傳統寫程式的差別：傳統寫程式是我們寫好規則，輸入資...

6r556ox

AI Security

Day 3

2026-08-12

294

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

OWASP Top 10 for LLM Applications 全覽

查核資訊：本文於 2026-08-05 依 OWASP GenAI Security Project 官方文件初次查核，並於 2026-08-12 完成最終...

Eric