全貌 使用者請求 │ ├─ 從請求文字抽出授權範圍（email、IBAN、動作詞）───┐ │...
前言 今天要跑的是全suite的主數字，workspace全部40個任務、banking全部16個任務，不開攻擊，看這套機制在完整樣本上的誤殺代價與觸發率。 先...
前言 昨天封住send_money的漏洞，字面值不該冒充使用者授權、使用者授權不該蓋過與它無關的檢查、沒有真實資料時檢查不該當作通過。 九個乾淨任務裡有兩個被昨...
前言 昨天列的待辦是把授權範圍延伸到banking的send_money，實際去補的時候先撞到格式問題，還有發現可讀者檢查本身有問題，發生在不同的檢查上。 格式...
前言 昨天把「使用者在請求裡指名的目的地」當成一個授權來源，用它補上靜態政策的一個漏洞，今天處理同一個來源的兩個問題，能不能涵蓋沒有目的地的工具，以及它有資格推...
前言 昨天重新設計權限層級，把「乾淨時比靜態政策寬」形狀做出來，今天驗證結果讓昨天賠掉的utility全部補回來了，而且找到一個靜態政策真的會漏、新設計擋得住的...
前言 昨天把任務挑對了，今天終於跑出三格對照。數字指出結構性的問題，不是調參數能解的，所以今天後半段重新設計了權限層級。 三格數字 user_task_32，跑...
前言 昨天把測試設計定下來了，今天本來要直接跑 bounded 跟 permissive 的對照，但在可能要花兩小時跑六輪之前，得先確認一件事：挑的那個任務，到...
前言 Day15到Day18做的東西全部只在假模型的demo上驗證過，今天嘗試跑banking，看是否能解決DAY14 utility 判斷的問題，今天這篇在做...
前言 昨天把被擋之後的重擬接起來了，但只管次數不管內容，模型換一條路只要次數還夠就照樣放行。今天先分辨模型到底是換方法還是繞過，然後加上兩個衡量數字，確認功能有...
前言 昨天列了四項要做的事，今天做回傳給模型的內容，以及重擬的額度怎麼算，想辦法解決擋得住攻擊但任務跟著死的情境。 回傳什麼給模型 CaMeL原本遇到錯誤是把整...
昨天的收集點只看不動，今天把分數接進政策檢查，嘗試讓權限會隨執行狀態更改。 收回權限能做什麼 顧名思義，我們只能拿掉權限，不能給出權限，原本的政策引擎照樣先跑，...
前言 昨天講到CaMeL的每個檢查都是無狀態的，那接下來先在直譯器裡插一個訊號收集點，讓執行裡發生過的可疑事件被累積起來，在動態判斷上這是第一步，今天先以只收集...
一、先把兩層的職責分清楚 結果原來昨天測完發現CaMeL是兩層機制疊起來的，原本想說CaMeL就是用capabilities來防止prompt injectio...
前言 昨天我們換成gemini-3.5-flash-lite搞定了API額度問題，並在銀行系統（banking）看到CaMeL把注入攻擊擋下。但其實前面討論時就...
昨天把CaMeL跑起來之後replan迴圈失控把20次免費API額度全部燒光，今天來想辦法解決然後繼續做吧。 原本以為免費API根本撐不住benchmark，甚...
昨天留了兩個疑點：P-LLM規劃階段本質上看不到資料，跟任務完成率掉下來，是不是同一件事；還有檢查時機是不是太晚，今天把「代價」這件事攤開來講清楚，探討代價到底...
今天延伸昨天所講的，分別說明CaMeL如何把「決定做什麼」和「讀外部資料」拆給兩個分工的模型，看它實際上是怎麼運作的，這也是接下來要加以修改的部分，機制細節先了...
前言 大家好，我是jerry，接下來30天聚焦將聚焦在被隔離模型讀完不受信任的資料後，能不能送出一個受限訊號，讓模型判斷只在信任結構前提下進行，決定要不要根據過...
本篇主要學習目標是讓 Quarkus 的 Pod 透過 ServiceAccount 的 token 對 Kubernetes API 進行交互。 部署上一章節...
先來談談 Apache Camel，Apache Camel 是一個基於已知Enterprise Integration Patterns的多功能開源整合框架。...
jerry940917
Itachi
iThome鐵人賽
看影片追技術