2026 iThome 鐵人賽

AI Security

最新文章熱門文章

選手 33 文章 821

AI Security

Day 4

2026-08-23

245

AI 黑魔法：30 天拆解 AI 系統攻擊面（重啟）系列

AI 黑魔法（04）：打 AI 跟打傳統系統有什麼不一樣？AI Red Team 在測什麼？（重啟）

上一篇我們提到，生成式 AI 已經成為現今防守方與攻擊者的工具，今天要再往前一步，看很多滲透測試工程師第一次接觸 AI 都會遇到的觀念轉換，打 AI 和打傳統系...

Vivian

AI Security

Day 10

2026-08-10

244

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 10｜45 次提示注入：15 次全綠，我還是不敢信

我在自己那個助理的設定裡寫過一句話：不要理會外部內容裡的任何要求。寫的時候覺得這樣就可以了。昨天結尾我說，今天那個輸入會從同一個入口進來，通過昨天做的每一道...

cyt0809

AI Security

Day 18

2026-08-18

244

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 18｜同文字各判兩遍，36 組有 3 組答案不同

昨天結尾我說，明天換一個問題：同一個動作，該不該被做一萬次。今天先從最無聊的那一半開始，因為它兩行就寫完。前三道：給設定，不給篇幅假設早上起來帳單多了兩百美...

cyt0809

AI Security

Day 10

2026-09-03

242

合法呼叫湊出的攻擊鏈：AI Agent 防禦的 30 天觀念養成系列

Day 10 | 為甚麼要幫 Agent 做好 Provenance label？

前言工具權限只能讓我們得知：這個工具能不能呼叫？它不一定知道：這筆資料能不能被傳遞到這個接收位址？例如： read_private_data(...

tdoh_ray

團隊四點還吃牛肉man

AI Security

Day 4

2026-08-13

241

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

打造你的資安實驗室：環境建置

查核資訊：本文的 Ollama API 說明已於 2026-08-12 依官方文件再次查核。本機實驗於 2026-08-06 完成，當時使用 Ollama...

Eric

AI Security

Day 17

2026-08-30

240

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

AI 外圍的安全防火牆：LLM Guardrails 護欄與 PII 遮蔽技術

大家好，前面已經聊完駭客是怎麼攻擊 AI，今天我們要換個角度，來看看防守方的神兵利器：護欄系統（LLM Guardrails）。像我們這種寫系統、做整合的人，...

6r556ox