2026 iThome 鐵人賽

AI Security

最新文章熱門文章

選手 11 文章 86

AI Security

Day 5

2026-08-05

196

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 5｜AI 找得到自己寫的洞，是我的驗證方法騙了我

昨天結尾留了一個問題：如果找漏洞的跟寫程式的是同一個模型，它找得到自己的錯嗎？今天實際跑一次。先講結論：它列得出來，而且比我以為的多。但「列出來」跟「找到了」...

cyt0809

AI Security

Day 3

2026-08-04

250

AI 黑魔法：30 天拆解 AI 系統攻擊面系列

AI 黑魔法（03）：AI 是最好的助手，也是攻擊者的新武器

2024 年跨國工程公司 Arup 的香港分公司發生了一起詐騙案，一名財務人員收到訊息，對方聲稱英國總部的財務長正在處理一筆機密交易，要求他配合匯款，一開始他也...

Vivian

AI Security

Day 4

2026-08-04

196

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 4｜你說不出它知道多少，因為沒人定義過什麼算敏感

昨天最後留了一個問題：你昨天貼給 AI 的那段錯誤訊息裡面有什麼，你說得出來嗎？我第一次被問到的時候答不出來。不是記性差，是我從來沒把「這段裡面有什麼」當成一...

cyt0809

AI Security

Day 3

2026-08-03

188

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 3｜第一步是讓舊鑰失效，但送進 AI 的那些收不回來

大家好，我是中義。昨天那行指令跑完，我朋友的歷史裡真的有一份 .env，半年前那個 commit。我叫他先去供應商後台把金鑰撤掉，歷史先不要動。今天講為什麼是...

cyt0809

AI Security

Day 2

2026-08-03

241

AI 黑魔法：30 天拆解 AI 系統攻擊面系列

AI 黑魔法（02）：AI 為什麼會一本正經地胡說八道？從 AI、ML 到 GenAI 的運作原理

2023 年一位美國律師在準備訴訟資料時，請 ChatGPT 幫忙找相關判例，ChatGPT 很快列出六個案例，案件名稱、判決內容、引用格式一應俱全，看起來完全...

Vivian

AI Security

Day 1

2026-08-02

282

AI 黑魔法：30 天拆解 AI 系統攻擊面系列

AI 黑魔法（01）：AI 為什麼會成為攻擊目標？

大家好，我是 Vivian，一個閒不下來的在職媽媽，目前是一名從事滲透測試工作的工程師。我一直很喜歡挑戰新事物，也習慣每年替自己設定一個新目標，今年我想挑戰一...

Vivian