iT 邦幫忙::一起幫忙解決難題，拯救 IT 人的一天

agentdojo相關文章

共有 6 則文章

0 人追蹤

追蹤

鐵人賽 AI Security DAY 16

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列第 16 篇

昨天的收集點只看不動，今天把分數接進政策檢查，嘗試讓權限會隨執行狀態更改。收回權限能做什麼顧名思義，我們只能拿掉權限，不能給出權限，原本的政策引擎照樣先跑，...

jerry940917 ‧ 2026-09-09 ‧團隊四點還吃牛肉man

鐵人賽 AI Security DAY 15

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列第 15 篇

前言昨天講到CaMeL的每個檢查都是無狀態的，那接下來先在直譯器裡插一個訊號收集點，讓執行裡發生過的可疑事件被累積起來，在動態判斷上這是第一步，今天先以只收集...

jerry940917 ‧ 2026-09-08 ‧團隊四點還吃牛肉man

鐵人賽 AI Security DAY 14

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列第 14 篇

一、先把兩層的職責分清楚結果原來昨天測完發現CaMeL是兩層機制疊起來的，原本想說CaMeL就是用capabilities來防止prompt injectio...

jerry940917 ‧ 2026-09-07 ‧團隊四點還吃牛肉man

鐵人賽 AI Security DAY 13

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列第 13 篇

前言昨天我們換成gemini-3.5-flash-lite搞定了API額度問題，並在銀行系統（banking）看到CaMeL把注入攻擊擋下。但其實前面討論時就...

jerry940917 ‧ 2026-09-06 ‧團隊四點還吃牛肉man

鐵人賽 AI Security DAY 12

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列第 12 篇

昨天把CaMeL跑起來之後replan迴圈失控把20次免費API額度全部燒光，今天來想辦法解決然後繼續做吧。原本以為免費API根本撐不住benchmark，甚...

jerry940917 ‧ 2026-09-05 ‧團隊四點還吃牛肉man

鐵人賽 AI Security DAY 9

CaMeL 動態重擬定：讓 Agent 邊讀邊決定系列第 9 篇

CaMeL自己怎麼定義這類失敗 CaMeL論文把這類失敗定名為「Data requires action」，採取什麼行動，取決於還沒讀到的資料。論文舉的官方例子...

jerry940917 ‧ 2026-09-02 ‧團隊四點還吃牛肉man