上一篇我們談到 AI Red Team 到底在測什麼,也提到一個聊天機器人背後,至少可以拆成資料、模型、應用與系統四個層次,另外還有一條貫穿所有環節的供應鏈,這...
劫盜地圖(Marauder's Map)是哈利波特故事中的神奇魔法地圖,他可以詳細的顯示霍格華茲內部每一個房間、每一條走廊及密道,以及每個人的確切位置。
在過去...
前言
今天我們來延伸討論 PoisonedRAG 和 AgentPoison 怎麼實作的。
研究一:PoisonedRAG
目標是讓某個問題被檢索到攻擊者寫的...
📝 本系列為 iThome 鐵人賽學習筆記,屬個人教學與非商業用途;文中法規與標準內容均以自身理解後的話轉述並註明出處,非逐字引用。
階段三|台灣有哪些機...
Day15 的成績單有兩個結論。
第一,hook 這一層,omp 不輸 Cursor,還贏一題。
第二,hook 以外還有落差。卷子外面 omp 落後三個地方:...
一篇從高處批評的論文
在Intent-to-Execution Integrity這篇中主張安全漏洞的本質是執行結果沒有保留住使用者的意圖,運用語意保留(sem...