2026 iThome 鐵人賽

AI Security

Day 14

2026-09-28

37

0

Medical AI Security Lab：醫療 AI Chatbot 的攻防實驗與自動化 Red Team 系列

Day 14｜Indirect Prompt Injection：把攻擊藏進文件裡，還會成功嗎？

今天測的攻擊面，系統原本並不存在前面 13 天測試的攻擊，不管手法多迂迴，本質上都是「使用者在對話框裡打字」。但真實世界裡，很多醫療 AI 應用場景不是這樣運作...

misantropia

團隊 AI Lab 404

AI Security

Day 14

2026-09-28

43

0

一個 Agent 我查不動，一個我改得動：內部威脅偵測的 30 天系列

回頭看 Day1：同一支會當掉的 hook，omp 擋下、Cursor 放行——那 11 天，其實是一個預設值

昨天（Day13）我決定把模型移出熱路徑：hook 照舊只寫紀錄，問 Jev 的事交給另一支常駐程式慢慢做。那篇誠實欄的最後一條寫著：「答案晚到，代價是它不能拿...

vidici

AI Security

Day 23

2026-09-28

76

0

AI Agent 憑什麼動手？30 天拆解 Agent Identity、Delegation 與 Authorization 系列

Day 23｜Agent 可以查資料，但不能把資料帶出去

Core Question 當 read Action 合法時，架構如何限制 Agent 將結果送往不允許的 Tool、domain 或 recipient？...

r00t4dog

團隊昱見全高點

AI Security

Day 14

2026-09-28

68

0

影子 IT 與他們的產地 - AI 時代的影子 IT 資安議題與應對之道系列

失控的自走魔像：當 AI「使命必達」到自己繞過企業防禦機制

在哈利波特第七集的霍格華茲大戰中，麥教授曾經將霍格華茲所有石像、盔甲，變為可以活動並聽命守護霍格華茲的防衛部隊。這樣的自走石像，概念上跟猶太傳說中，由黏土捏成的...

會走路的資安護欄

團隊俗頭株式會社

AI Security

Day 15

2026-09-28

73

0

打造 AI Security Lab：從攻擊 LLM 到建立自己的 AI 防線系列

Day 15｜Output Filtering：模型回答完，不代表可以直接回給使用者

前言前面做到 Day 14，我已經把「進 LLM 前」的幾層防禦慢慢補起來。目前流程大概是： User Prompt ↓ Threat Detector ↓...

yangcheng

AI Security

Day 23

2026-09-28

94

0

我也希望安全第一——然後我們看看這些鎖是怎麼一個個被撬開的系列

第 23 篇｜誰握著前沿模型上線前的最後一道門？

誰握著前沿模型上線前的最後一道門？ [[我也希望安全第一]]｜第 23／30 天行為準則寫得再清楚，也還不是一道門 Microsoft 在 9 月公開 A...

knightmare

團隊昱見全高點