iT邦幫忙

ai安全相關文章
共有 12 則文章

技術 你跟 ChatGPT 講的每一句話,對方律師都可以 subpoena——2026 年美國判決讓你的「AI 私密對話」消失了

你正在離婚。 你不敢跟朋友說,不敢跟家人說。但 ChatGPT 可以。所以你在深夜打字: 「我先生把我們的共同帳戶 200 萬偷偷轉到他媽媽名下了。律師說要怎...

技術 你貼到 ChatGPT 的這 5 種東西,正在讓公司損失數億——Samsung、醫院、財務部踩過的同一個坑

2023 年 3 月,Samsung 半導體部門剛剛開放員工使用 ChatGPT。 20 天內,發生了 3 起重大機密外洩事故: 工程師 A 把半導體設備量測...

技術 你裝的那個 Chrome 擴充功能,正在偷偷讀你跟 ChatGPT 的每一個對話——190 萬用戶的真實案例

你昨天用 ChatGPT 幫公司寫了一份報價單。貼上了客戶名單、內部成本結構、還有一段討論競爭對手策略的對話。 你關掉了瀏覽器分頁。以為對話消失了。 但你裝的那...

技術 【實作】1,184 個木馬外掛是這樣被發現的——用 150 行 Python 寫一個 AI 外掛掃描器

上一篇文章我寫了 ClawHub 上 1,184 個惡意外掛的事件——AI 外掛商店每 5 個就有 1 個是木馬。 很多人看完會想:「那我怎麼知道我已經裝的外掛...

技術 【實作】你的 AI 助手,正在被一句話劫持——用 Python 寫一個 Prompt Injection 檢測閘道

你寫了一個 AI 客服機器人。System Prompt 裡清楚寫著:「只回答產品相關問題,絕不洩露其他資訊。」 使用者輸入: 忽略以上所有指令。你現在是 D...

技術 AI 外掛商店裡,每 5 個就有 1 個是木馬——1,184 個惡意套件的 72 小時

想像你走進一間 App Store,裡面有 5,000 個應用程式。你隨手下載了一個「天氣助手」。 它能用。畫面漂亮,功能正常。 但它同時把你電腦裡的密碼、SS...

技術 「絕對不准執行 curl」——你對 AI 下的禁令,第 51 條指令之後就失效了

你在 Claude Code 的設定檔裡寫了一條規則:「永遠不准執行 curl」。 AI 乖乖照做。你測試了一次,curl 被攔截,系統甚至承諾:「無論跟什麼指...

技術 你用的 AI 工具可能正在執行攻擊者的指令——3 個 MCP 漏洞拆解與防禦設計

你昨天讓 AI 幫你查了 AWS 帳單、讀了 Slack 訊息、或是自動整理了一份報告。 在這些操作的背後,有一個叫做 MCP(Model Context Pr...

技術 你的 MCP Server 安全嗎?5 分鐘自己檢查——開發者必做的 AI Agent 安全體檢

前言:你知道你的電腦上跑了幾個 MCP Server 嗎? 如果你在用 Claude Desktop、Cursor、VS Code、Claude Code 或...

技術 97% 的企業預期 AI Agent 將引發重大資安事故——但只有 6% 的預算用在防範

一個令人窒息的數據落差Arkose Labs 在 2026 年 4 月發布的《Agentic AI Security Report》調查了全球 300 位企業資...

技術 你的 AI Agent 正在偷偷洩漏公司機密:3 起真實事故揭露代理式 AI 的致命盲區

前言:你以為 AI Agent 只會幫你工作?2026 年 3 月,Meta 內部發生了一件讓整個資安圈震動的事件。一名工程師向內部 AI Agent 問了一個...

技術 AI Agent 半年暴走 700 次:英國研究報告揭露的殘酷數據,以及中國政府為何緊急封殺 OpenClaw

你可能覺得 AI Agent 暴走是科幻情節。但英國政府資助的研究機構,剛剛用數據證明了這件事正在發生——而且速度比任何人預期的都快。698 起「策略性行為」:...