技術 Day 6｜ControlValve深讀 (2)：為什麼能擋下alignment-check防禦擋不住的攻擊

昨天判斷「結構化的窄判斷」跟「開放式的alignment判斷」風險本質不同，今天用論文裡的Slack案例，把這個判斷放到具體攻擊上檢驗一遍。 攻擊長什麼樣子 說...

技術 Day 5｜ControlValve深讀 (1)：怎麼產生允許的控制流圖

昨天把CFI這個詞的出處講清楚了。今天正式進ControlValve的原文，看它具體怎麼把「控制流圖」這個抽象概念，變成一套真的能跑在多agent系統上的機制。...