2026 iThome 鐵人賽

AI Security

最新文章熱門文章

選手 33 文章 821

AI Security

Day 2

2026-08-11

258

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

傳統資安 vs LLM 資安：到底哪裡不一樣

查核資訊：本文依 MITRE CWE、OWASP 與 NIST 官方資料查核，並以 2026-08-10 的本機 Ollama 0.32.5、gemma4:...

Eric

AI Security

Day 8

2026-08-27

258

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（08）：越獄 AI，jailbreak 到底在越什麼獄？（重啟）

前一篇介紹 Prompt Injection 時，我們提到模型會同時閱讀指令與資料，但兩者之間沒有像程式那樣明確、不能跨越的界線，所以混在資料裡的外部文字才有機...

Vivian

AI Security

Day 10

2026-08-23

257

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

騙過 AI 眼睛的特殊貼紙：對抗性樣本與 FGSM/PGD 演算法

大家好，今天我們就要來深入拆解裡面最經典的：對抗性樣本攻擊（Adversarial Example Attack）。你可能在網路上看過這個著名的實驗：研究人員...

6r556ox

AI Security

Day 20

2026-08-20

256

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 20｜同一個要求跑了 48 次，紀錄裡長出 48 種理由

前面十九天在建防線：閘、白名單、授權核對、參數陣列。昨天結尾那句是這樣收的，這些東西上線兩個禮拜之後，你說不說得出它們到底擋過什麼、有沒有擋錯人。 Part I...

cyt0809

AI Security

Day 26

2026-09-08

255

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

美國政府推薦的 AI 安全指南：NIST AI RMF 框架的 GOVERN 與 MAP 功能

大家好，昨天我們聊完了強制性的歐盟 AI 法案。今天我們要來看另一個在實務合規上極具權重、也是多數企業落地 AI 風險管理的事實標準：NIST AI RMF（N...

6r556ox

AI Security

Day 1

2026-09-10

255

《30 天打造 AI Guardrails》系列

Day 1｜為什麼 LLM 需要護欄：OWASP LLM Top 10 與 Agentic Top 10 對照

開場：先講一個不會出現在新聞裡的故事去年幫一家金融機構做 AI 應用的資安評估，客服機器人已經上線兩個月，模型是好的、RAG 是好的、系統提示詞也寫得很認真。...

Fngi