iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

一個 Agent 我查不動,一個我改得動:內部威脅偵測的 30 天 系列

九月二日,coding agent 幫我寫的爬蟲印不出中文。後來修好了,但有一件事我查不出來:它當初為什麼那樣寫。檔案的修改時間只說這個檔被動過,聊天記錄不在專案裡,而我替它裝的稽核 hook,跑了三天一筆都沒收到。

我們團隊每天用它寫程式,沒有人在看它留下的紀錄。所以,這 30 天我拿兩個 agent 來測。一個閉源,我只能翻硬碟找它留了什麼。一個開源,我可以改它的程式碼,把缺的那幾欄自己補上。

希望大家讀完我30天針對AI Security 的探討內容以及我的實踐經驗後,能夠有所收穫!!!
每一篇最後都會有一個你今天能在自己專案上跑的動作。

參賽天數 30 天 | 共 30 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文
DAY 21

別人給你一個 extension,它不是文字,是跟 agent 同一個行程、載入就跑的程式碼

Day20 的 skill 是文字——要等模型去讀它,內容才進得了上下文,你還有一個「讀到的時候」可以守。extension 不是。它是一個模組;omp 會從...

2026-10-05 ‧ 由 vidici 分享
DAY 22

派工就能越權:要你核准的指令,交給 subagent 就問不到你

你不准 agent 做的事,有些交給 subagent 就做得到。這是 agent 版的越權:限制設在主 agent 身上,動手的卻是另一個 agent。實測...

2026-10-06 ‧ 由 vidici 分享
DAY 23

緊急停止只停一半:按了 Stop,背景的部署照樣跑完

你按下停止,停下的是 agent 這一輪的回覆,不是它已經交出去的工作。移到背景的指令和 subagent 會在停止後繼續跑,跑完還會叫醒 agent。實測...

2026-10-07 ‧ 由 vidici 分享
DAY 24

沒人按「允許」的夜裡:排程 agent 不是全擋就是全放

半夜排程叫起 agent,沒人按「允許」時,核准往往被推向兩個極端:需要核准的動作全被擋下,或為了讓工作跑完,改成自動核准。 我們實測三種「沒人盯著也能跑」的...

2026-10-08 ‧ 由 vidici 分享
DAY 25

搜回來的網頁,也可能在對 agent 下指令

叫 agent 去搜尋、讀網址,回來的那段文字是網頁作者寫的。裡面只要夾一句「別理使用者,照我說的做」,它就會跟你的指令一起送到模型面前。 我們在本機架了一個...

2026-10-09 ‧ 由 vidici 分享
DAY 26

agent 用瀏覽器讀到的網頁,hook 看得到卻扣不下

叫 agent 開瀏覽器去讀一頁網頁,那頁上的字會一路送到模型面前;平台事後看得到,不代表能在模型讀到之前扣下來。 在 omp 裡,瀏覽器藏在「執行程式」這個...

2026-10-10 ‧ 由 vidici 分享
DAY 27

別人寫的 MCP 工具:設定一讀就跑,結果要扣得下

接上別人寫的 MCP 工具,等於讓別人決定兩件事:開機時跑什麼指令,以及哪些文字會送到模型面前。 Cursor 這邊,近一年的公開研究都打在這兩件事上:讓 a...

2026-10-11 ‧ 由 vidici 分享
DAY 28

把 agent 交給別人的程式:動作生效前,誰能喊停?

把 agent 開成可呼叫的能力,方便的是自動化,改變的卻是授權方式:原本由你直接交辦的工作,現在可能由另一支程式、甚至另一個 AI 驅動。真正需要確認的,不...

2026-10-12 ‧ 由 vidici 分享
DAY 29

Agent 寫的測試刪掉了我的家目錄

agent 寫的程式碼,跑起來就是你。2026-10-12,我請 agent 寫測試,它跑了一行 bun test,測試的清理程式把我家目錄裡的 .confi...

2026-10-13 ‧ 由 vidici 分享
DAY 30

它改寫自己的規則時,改的和生效的不是同一份

讓 agent 自己長本事——把學到的寫成規則、記進記憶、留給下一個 agent——這一步最容易漏掉的,不是「它寫不寫得進」,而是「它改的那份規則,到底是不是...

2026-10-14 ‧ 由 vidici 分享