iT邦幫忙

prompt injection相關文章
共有 3 則文章

技術 【實作】MCP Tool Poisoning 攻擊重現與防禦:用 Python 寫一個安全閘道來攔截惡意工具調用

前言MCP Tool Poisoning 是 OWASP LLM Top 10 中排名第一的威脅(LLM01: Prompt Injection)的一種特殊形態...

鐵人賽 DevOps DAY 25

技術 Day25 - LLM 應用安全:OWASP Guardrails 防 Prompt Injection 與資料外洩(含實測)

🔹 前言 在 Day21–Day24,我們已經讓系統 更快、可回滾、能再訓練,並且具備 多模型路由 的能力。 但功能之外,還有另一個不可忽視的挑戰:安全性。 接...

鐵人賽 Security DAY 5

技術 Day 5:Slack 修補「Prompt Injection」漏洞

文章來源:Slack Patches AI Bug That Let Attackers Steal Data From Private Channels,0...