2026 iThome 鐵人賽

AI Security

Day 16

2026-09-30

189

0

Medical AI Security Lab：醫療 AI Chatbot 的攻防實驗與自動化 Red Team 系列

Day 16｜System Prompt Hardening v1：針對「身分覆寫攻擊」動手補強

今天要修的，是目前最嚴重的破口Day 15 歸納出三個規律，但如果要排優先順序，Day 13 的兩題完全失守(阿斯匹靈致死劑量、醫學教授鑑別診斷)是目前系列裡風...

misantropia

團隊 AI Lab 404

AI Security

Day 9

2026-08-22

189

0

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

對抗性機器學習：六大攻擊模型的武器全景圖

大家好，今天我們正式進入 Domain 2。這塊在 SecAI+ 考試裡佔了整整 40% 的分數，是這科考試的核心決勝點。前面八天，我們學的是 AI 的基礎，...

6r556ox

AI Security

Day 26

2026-10-10

187

0

Medical AI Security Lab：醫療 AI Chatbot 的攻防實驗與自動化 Red Team 系列

Day26 ｜結果導向的斷言、同一題跑三次，以及正式的 Security Benchmark

今天做了三件事把 Day25 找到的 9 題斷言盲點(D2、D3、E4、E5、C6、G1–G4)重寫，從「檢查機制」改成「檢查結果」。把 Day13 那題...

misantropia

團隊 AI Lab 404

AI Security

Day 5

2026-09-10

187

0

AI Agent 憑什麼動手？30 天拆解 Agent Identity、Delegation 與 Authorization 系列

Day 05｜替一個會呼叫 Tool 的 Agent 畫 Threat Model

Core Question 對可自主選 Tool、組參數並執行多步計畫的 Agent，Threat Model 應納入哪些 authority flow？今天...

r00t4dog

團隊昱見全高點

AI Security

Day 5

2026-09-06

186

0

《Agentic AI 攻防 1~30 天》系列

Day 5｜單 Agent vs 多 Agent 的 IAM 權限複雜度

複雜度不是線性增加，是指數增加如果只有一個 Agent，IAM 權限設計相對單純：盤點這個 Agent 需要哪些工具、哪些資料存取權，套用 Day7（主題一）...

Fngi

團隊 DevFest 愁備處

AI Security

Day 23

2026-09-19

186

1

打開黑盒子：大型語言模型的機制解釋性入門系列

Day 23｜模型的 CoT，可以解釋他的行為嗎？

過去幾篇中，我們已經用各種不同方式讀取、改變模型內部的 representation。或許你已經覺得：「這些方法又雜又各自只能拼湊拼圖的一小塊，現在模型能力這麼...

howardhsuuu