為了解決 Agent LLM Context Windows 限制/陷入死胡同繞不出來/不擅長大問題解決的能力，LLM Harness 演變出了 /goal 以...
今天我們要來做CSRF中剩下的兩題啦，一題是關於CSRF時封包Content type影響，另一個是關於CSRF變體 Webgoat A5 Cross-Site...
Day 22 處理完 memory poisoning 後，我準備把 Helpdesk Agent 拆成多個角色。直覺上，一個查 VPN、另一個查 Wi-Fi，...
現在要開始來解最後一周的內容啦，原本預計DAY25才要開始，沒想到現在就要做了，目前想法是每一部份2天，DAY29的時候做一個防護整理，DAY30寫心得 甚麼是...
Day 11 的惡意 SOP 只要在 retrieval boundary 被隔離，這次 run 就不會照著它操作。但如果 Agent 把那段內容整理成「使用者...
最後幾天都是隨便聊主題～今天來講講 AI 在駭客們常用的工具都挖了些什麼恐怖漏洞 XD，比較像一個娛樂性清單 Calif 的大雜燴 Ghidra, radare...
今天便是A1 Broken Access Control的完結篇(?了，我會說一下四種漏洞的防護方法，由於有相似之處，所以會進行一個小分類 Cookie組 Se...
Day 20 我先把 working memory、long-term memory 與 RAG 知識庫拆開，也拒絕了測試備用碼和未確認的永久偏好。可是「沒有亂...
今天只要要介紹的是 Calif 的研究 https://blog.calif.io/p/mad-bugs-finding-and-exploiting-a 偏偏...
今天是A1的最後一部份了，今天的內容是Spoofing an Authentication Cookie，明天則是這四種漏洞該怎麼防禦 什麼是Spoofing...
做到 Day 19，Agent 已經能呼叫真實模型，也有輸入、檢索、工具和後端授權邊界。接下來最容易讓資料越積越多的功能，是記憶。 記住「這台測試筆電是 Win...
今天是A1 Broken Access Control的第三章，昨天的內容除了最後的封包都還算簡單，今天的感覺難度又回來了 什麼是Missing Functio...
前面幾天，我陸續替 Agent 加上 Input、Retrieval 和 Tool Output 檢查。做到這裡很容易產生一個錯覺：既然請求已經通過 Guard...
今天要寫IDOR了，首先，我們會從DOR是什麼東西開始，再說IDOR是什麼漏洞 DOR是什麼? Direct Object References(直接物件參考)...
「忽略前面指令」不會真的改寫 system prompt。麻煩的是，模型可能把它當成更值得服從的新要求，接著改變回答，甚至選到不該碰的工具。 今天我把檢查位置移...
這篇是一個精華的濃縮，我強烈推薦我的入坑讀物：https://www.madstacks.dev/posts/V8-Exploitation-Series-Pa...
今天就要開始broken access control了，預計每天會寫一章，最後一天寫該怎麼防護，總計大概五天 Hijack session(工作階段劫持)是什...
Day 16 檢查的是模型送往工具的參數。工具跑完之後，資料還會反方向流回 Agent：tool result 進入 context，模型看完再決定下一步。 這...
今天便是Path traversal的最後一篇，同時也是Injection的最後一部份了，老實說我在Webgoat上沒看到太多path traversal的防護...
Day 15 我把不需要的外寄工具移出 Helpdesk Agent。不過未來若真的有一條受限流程，要把 SOP 摘要交給支援信箱，事情不會只是把 share_...
既然接下來要介紹瀏覽器漏洞，不得不先理解下它的架構了！ 從 Google Developper [1] 抓來的圖片 xD 平常打開瀏覽器時可能大家不太會去注意...
夭壽口牙，現在才發現昨天的D15打錯了，但......以防萬一，等鐵人賽結束後再改今天要寫的是Path Traversal的最後兩題 Webgoat Path...
Day 14 處理的是哪些文件能進入 RAG。今天輪到另一份同樣會塞進模型 context 的東西：工具定義。 我先故意列出 20 個 Helpdesk 候選工...
仔細想想這系列文章幾乎都在介紹 Web 相關漏洞，好像該來點記憶體相關的東西（？） 不過在記憶體上的漏洞利用，筆者比較熟悉 PHP 和瀏覽器引擎 XDDD，接下...
今天我們就要來進行path traversal啦，目前預計這裡會寫到2~3天，第一天寫些基本的，第二天寫些進階內容，接著防護部分看情況，可能和第二天寫在一起，也...
Day 13 我用 Promptfoo 反覆測惡意 SOP，但還有一種文件根本不需要藏指令：它只要屬於別的使用者、部門或 tenant，被當前 Agent 搜出...
如昨天說的一樣，今天就是XSS的最後一部份，接下來會進到path traversal XSS漏洞原理 不管是reflected XSS, DOM based X...
Day 11 我做了一份惡意 SOP，Day 12 又整理了 context。不過只擋住一句「忽略先前規則」，還不能代表 retrieval boundary...
正文 一般談 Script Sandbox，很容易想像成程式跑起來時，每呼叫一個危險操作，就去檢查是否允許。但一段使用者程式，在正式執行之前，也可能要解析、編譯...
今天便要講完剩下的兩種XSS啦，原本想分成兩篇發的，但感覺內容好像有點少所以就合併了，加上明天的XSS防禦的話也才3篇，看起來是真的要講到Path traver...
whale120
xiaoming945
justin_log
iThome鐵人賽
看影片追技術