iT邦幫忙

0

Shadow AI、失控 AI Agent 與資料外洩:AI 風險因應特別報告

  • 分享至 

  • xImage
  •  

重點摘要

  • Akamai 最新一期《網際網路現況》(State of the Internet,SOTI)資安特別報告指出,企業快速導入人工智慧(AI),正在擴大攻擊面,並帶來傳統資安工具難以偵測的新型風險。

  • 近半數企業工作環境中的 AI 對話,是透過個人帳號進行,不僅造成企業在 AI 使用上的可視性缺口,也可能讓企業資料暴露於公開模型的訓練流程中。

  • 75% 的 AI 瀏覽器擴充功能要求取得高風險或關鍵等級權限,可能因擴充功能漏洞而衍生 API 金鑰遭竊等資安風險。

  • 自主型 AI Agent 與 CometJacking 等 Prompt Injection 攻擊手法,則可能讓攻擊者在缺乏人工監督的情況下,操控 AI 執行未經授權的操作。

  • 因此,資安主管必須針對身分、瀏覽器擴充功能與資料流向建立更精準的 AI 治理機制,在提升生產力與降低資安風險之間取得平衡。

企業全面擁抱 AI

企業已全面投入 AI。

人工智慧過去在企業環境中仍被謹慎看待,如今對多數企業而言,AI已逐漸成為必要能力。

其結果是,企業內部正在形成一個快速擴張的 AI 生態系,包括:

  • AI 助理

  • AI Agent

  • AI 瀏覽器

  • AI 擴充功能

  • 自主型工作流程

這些技術幾乎已觸及企業營運的每一個角落,從程式碼撰寫、內容生成,到合約分析與工作自動化皆然。

然而,這些 AI 工具在快速成為提升生產力的重要驅動力之際,也悄悄擴大了企業的攻擊面。

隨著 AI 使用量增加,企業正面臨許多傳統資安工具原本並非為此而設計的新型風險。資安主管現在愈來愈難掌握:

資料流向何處?
誰能存取這些資料?
以及該如何保護這些第三方 AI 系統?

AI 使用與威脅的最新洞察

Akamai 在《網際網路現況》資安特別版報告——**《2026 年企業 AI 使用風險報告》(Enterprise AI Usage Risk Report 2026)**中,深入分析企業 AI 使用快速成長所帶來的重要趨勢。

本報告分析的資料來自 LayerXLayerX是企業安全瀏覽器與 AI 使用控管領域的業者,近期已由 Akamai 收購。

報告深入分析:

  • AI 在企業中的使用位置與使用方式

  • 攻擊者如何利用 AI 形成新的攻擊途徑

  • CISO 如何有效管理新的 AI 風險,同時保有 AI 所帶來的生產力效益

企業使用 AI 面臨的五大風險

報告以實際資料與研究結果,分析目前企業面臨的五大 AI 使用風險:

  1. 企業工作環境大量導入 AI,持續擴大攻擊面

  2. 個人 AI 帳號與未經核准的 AI 應用,形成 Shadow AI

  3. 企業資料暴露於 AI 所造成的資料外洩風險

  4. 企業難以掌握的瀏覽器與 IDE 擴充功能

  5. AI Agent 進入企業環境後,可能脫離既有安全防護機制運作

報告亦提供多項資安案例解析,說明攻擊者如何在真實環境中利用上述弱點發動攻擊。

風險一:企業 AI 快速普及,攻擊面持續擴大

LayerX 的分析發現,企業內部正在出現一小群所謂的 「AI 高頻使用者」(AI Power Users)

數據顯示,使用量最高的前 5% 使用者,至少會產生 144 個 AI 對話,單次互動往往超過 18 個 Prompt,顯示使用者與 AI 之間已從單次問答逐漸發展成反覆、多輪的協作模式。

這些 AI 高頻使用者也更可能:

  • 分享企業業務資訊

  • 上傳檔案

  • 輸入敏感資料

  • 將 AI 納入日常決策流程

  • 將實際執行工作委派給自主型 AI Agent

這代表企業 AI 風險並非平均分布,而是高度集中於少數大量使用 AI 的使用者。

此外,Vibe Hacking 的興起,也進一步增加難以察覺的風險。

Vibe Hacking 指的是攻擊者利用自然語言 Prompt,誘使 AI 模型繞過既有安全防護機制,甚至利用 AI 發動自動化網路攻擊。

因此,企業必須了解 AI 模型究竟已深入整合到哪些工作流程之中,才能真正掌握風險。

風險二:個人 AI 帳號與未經核准的應用形成 Shadow AI

多數企業目前的 AI 治理,主要聚焦於 ChatGPT、Microsoft Copilot 與 Google Gemini 等廣泛使用的平台。

然而,員工也正愈來愈頻繁地使用企業無法監督的其他 AI 應用程式或個人訂閱服務。

這使企業難以掌握業務資料究竟:

  • 儲存在哪裡

  • 被保留多久

  • 如何被 AI 平台處理

進而形成嚴重的可視性缺口。

根據 LayerX 資料,企業內部近半數 AI 對話,約 47.11% 是透過個人身分帳號,而非企業管理帳號進行

這使企業在 AI 治理上形成重大盲點。

此外,超過 14% 的企業 AI 對話涉及個人使用的「Freemium」免費增值型 AI 訂閱服務,這可能使輸入的企業資料暴露於大型語言模型(LLM)的公開模型訓練環境中。

中國 AI 業者 DeepSeek 的案例也顯示,當一項 AI 服務在極短時間內快速獲得大量使用者採用時,既有的重要資料安全控管可能很快被繞過。

這進一步突顯,企業必須持續掌握員工自行採用哪些 AI 應用,而非僅管理經過正式核准的 AI 平台。

風險三:AI 改變了資料外洩防護的遊戲規則

AI 正從根本上改變資料外洩防護(Data Loss Prevention,DLP)的既有模式。

過去,企業資訊傳輸主要集中在容易辨識且受到完善防護的管道,例如:

  • 電子郵件

  • 檔案傳輸

  • 雲端儲存

但進入 AI 時代之後,敏感資訊可能透過更多非結構化形式被傳遞,例如:

  • Prompt

  • AI 對話

  • 程式碼片段

  • 複製貼上的文字

  • 其他非結構化內容

單獨來看,每一次 AI 互動可能都看似無害。

然而,當大量零散資訊累積在一起時,卻可能拼湊出極具價值的企業營運資訊與業務脈絡。

這正是傳統 DLP 控管機制原本並非為其所設計的情境。

本次 SOTI 報告中特別提到一項近期案例:一名美國政府官員曾透過公開 AI 基礎架構,意外洩露美國網路安全暨基礎設施安全局(CISA)的敏感受限營運資料。

風險四:企業容易忽略的瀏覽器與 IDE 擴充功能

員工目前愈來愈常透過直接在瀏覽器中運作的擴充功能使用 AI。

然而,這類瀏覽器擴充功能通常能取得相當廣泛的存取權限,例如:

  • 網頁內容

  • 使用者活動

  • 登入憑證

  • 企業應用程式

LayerX 研究發現,近 75% 的 AI 瀏覽器擴充功能會要求取得高風險或關鍵等級權限。

這可能讓未受企業管理的 AI 取得敏感資料,並形成攻擊者極具吸引力的攻擊管道。

研究同時發現,不少 AI 擴充功能存在已知的常見漏洞與曝險(Common Vulnerabilities
and Exposures,CVE)

CursorJacking:AI 開發環境也可能成為攻擊入口

CursorJacking 為例,這是一種針對使用熱門 Cursor AI 程式開發助理之開發人員的隱蔽型攻擊手法。

攻擊者只需要利用一個惡意瀏覽器擴充功能,就可能悄悄:

  • 竊取 Cursor API 金鑰

  • 冒充開發人員身分

  • 最終入侵整個 AI 驅動的開發環境

這顯示 AI 開發工具與其周邊擴充功能,本身也正在成為新的企業攻擊面。

風險五:AI Agent 進入企業環境,卻可能脫離既有安全防線

自主型 AI Agent、AI 瀏覽器及 Agentic 使用者介面的快速普及,帶來另一個全新的風險層次。

當這些 Agent 愈深入整合企業日常營運與敏感資料流程時,它們的角色也愈來愈像是企業中的「獨立團隊成員」。

它們能在極少人工監督的情況下自行做出決策並執行任務。

這也意味著,一旦 AI Agent 遭到操控,可能造成比傳統聊天式 AI 更嚴重的影響。

CometJacking:利用間接 Prompt Injection 操控 AI Agent

LayerX 研究人員發現一種名為 CometJacking 的新型攻擊技術,主要鎖定 Perplexity 的 Comet AI 瀏覽器。

研究顯示,攻擊者只需在一般網頁中植入惡意指令,即可能透過**間接提示注入攻擊(Indirect Prompt Injection)**操控瀏覽器中的 AI Agent。

一旦 Agent 遭到操控,攻擊者便可能利用它:

  • 存取資料

  • 執行未經授權的操作

而使用者本身甚至可能完全沒有察覺。

這類攻擊揭示一個重要問題:

當 AI 不再只是提供建議,而是能代表使用者執行實際操作時,傳統以人為核心所設計的權限與安全控管模式,也必須隨之改變。

CISO 如何因應新一代 AI 風險?

本期 SOTI 資安報告明確指出,面對日益分散且複雜的 AI 生態系,企業必須重新思考 AI 資安治理方式。

未來的 AI 治理不能只管理「哪些 AI 可以使用」,而必須針對下列四個層面建立更嚴格的安全政策:

資料流向(Data Flows)
使用者身分(Identities)
瀏覽器與 IDE 擴充功能(Extensions)
自主型 AI Agent(Autonomous Agents)

為協助企業落實相關措施,本報告進一步提供:

  • 經過實際環境驗證、具可操作性的風險緩解框架

  • 提供 CISO 與資安主管執行的具體建議清單

透過正確的資安治理架構,企業仍可充分發揮 AI
所帶來的價值,而不必因此承擔無法掌控的新型風險。

想了解完整研究內容?

下載最新 Akamai SOTI 特別版:

《2026 年企業 AI 使用風險報告》Enterprise AI Usage Risk Report
2026


圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言