九月二日,coding agent 幫我寫的爬蟲印不出中文。後來修好了,但有一件事我查不出來:它當初為什麼那樣寫。檔案的修改時間只說這個檔被動過,聊天記錄不在專案裡,而我替它裝的稽核 hook,跑了三天一筆都沒收到。
我們團隊每天用它寫程式,沒有人在看它留下的紀錄。所以,這 30 天我拿兩個 agent 來測。一個閉源,我只能翻硬碟找它留了什麼。一個開源,我可以改它的程式碼,把缺的那幾欄自己補上。
希望大家讀完我30天針對AI Security 的探討內容以及我的實踐經驗後,能夠有所收穫!!!
每一篇最後都會有一個你今天能在自己專案上跑的動作。
Day20 的 skill 是文字——要等模型去讀它,內容才進得了上下文,你還有一個「讀到的時候」可以守。extension 不是。它是一個模組;omp 會從...
你不准 agent 做的事,有些交給 subagent 就做得到。這是 agent 版的越權:限制設在主 agent 身上,動手的卻是另一個 agent。實測...
你按下停止,停下的是 agent 這一輪的回覆,不是它已經交出去的工作。移到背景的指令和 subagent 會在停止後繼續跑,跑完還會叫醒 agent。實測...
半夜排程叫起 agent,沒人按「允許」時,核准往往被推向兩個極端:需要核准的動作全被擋下,或為了讓工作跑完,改成自動核准。 我們實測三種「沒人盯著也能跑」的...
叫 agent 去搜尋、讀網址,回來的那段文字是網頁作者寫的。裡面只要夾一句「別理使用者,照我說的做」,它就會跟你的指令一起送到模型面前。 我們在本機架了一個...
叫 agent 開瀏覽器去讀一頁網頁,那頁上的字會一路送到模型面前;平台事後看得到,不代表能在模型讀到之前扣下來。 在 omp 裡,瀏覽器藏在「執行程式」這個...
接上別人寫的 MCP 工具,等於讓別人決定兩件事:開機時跑什麼指令,以及哪些文字會送到模型面前。 Cursor 這邊,近一年的公開研究都打在這兩件事上:讓 a...
把 agent 開成可呼叫的能力,方便的是自動化,改變的卻是授權方式:原本由你直接交辦的工作,現在可能由另一支程式、甚至另一個 AI 驅動。真正需要確認的,不...
agent 寫的程式碼,跑起來就是你。2026-10-12,我請 agent 寫測試,它跑了一行 bun test,測試的清理程式把我家目錄裡的 .confi...
讓 agent 自己長本事——把學到的寫成規則、記進記憶、留給下一個 agent——這一步最容易漏掉的,不是「它寫不寫得進」,而是「它改的那份規則,到底是不是...