大家好,前幾天我們聊了各種 AI 治理的法律、框架與國際標準。今天,我們要來探討一個非常核心、也是近年來不論在資安審計、GRC 還是法律合規上都被高度檢視的議題...
Core Question
Tool 收到請求時,要驗證 User、Agent workload、Agent instance,還是三者的組合?
今天的問題:一...
上一篇看的是攻擊者怎麼把模型教壞,從資料投毒一路做到只有特定 Trigger 才發作的後門,這篇換成一個從頭到尾都乾淨的模型,攻擊者不碰權重,只是不斷送查詢進去...
Injection 的核心問題其實只有一句話:系統把原本應該只是「資料」的東西,誤當成了「指令」。OWASP 也將 Injection 描述為不可信資料被送進...
先講結論
我花了幾個月的時間,在一台單機的 DGX Spark(GB10,128GB 統一記憶體)上,從零微調一個資安領域的語言模型,並且把它接到四個真實的 M...
開場:先講一個不會出現在新聞裡的故事
去年幫一家金融機構做 AI 應用的資安評估,客服機器人已經上線兩個月,模型是好的、RAG 是好的、系統提示詞也寫得很認真。...