AI 時代的資訊安全，早已不只是防止駭客入侵，而是確保 AI 的使用、資料、模型與決策過程都能被信任、管理與監督。隨著生成式 AI、大型語言模型（LLM）及 AI Agent 逐漸導入企業營運，傳統以防火牆、弱點掃描、端點防護為核心的資安策略，也必須迎來全面轉型。

一、 AI 時代的五大資安挑戰

當企業導入生成式 AI 與 AI Agent，資安防護範圍隨之擴大。其中，AI Agent 的權限管理尤其值得重視——當 AI Agent 能夠自動存取企業資料庫、API 或內部系統，若缺乏適當的驗證與監督，便可能擴大資料外洩及錯誤操作的風險。

以下是企業在 AI 應用過程中，應特別留意的 5 大資安挑戰：

1. AI 強化網路攻擊

   • 主要風險：AI 協助產生釣魚內容、惡意程式及自動化攻擊。
   • 面臨問題：攻擊速度增加，傳統防禦難以及時反應。

2. 敏感資料外洩

   • 主要風險：員工將機密資料輸入外部 AI 平台。
   • 面臨問題：客戶資料、程式原始碼及營業秘密外洩。

3. AI 模型安全

   • 主要風險：Prompt Injection、模型污染、模型竊取。
   • 面臨問題：AI 回應遭操控，甚至執行非預期操作。

4. AI Agent 權限濫用

   • 主要風險：AI 自動存取資料庫、API、檔案及內部系統。
   • 面臨問題：過度授權可能導致大規模資料外洩或錯誤操作。

5. AI 治理與法規遵循

   • 主要風險：AI 使用缺乏政策、稽核及風險管理。
   • 面臨問題：難以符合 ISO 27001、ISO 42001 等管理要求。

二、企業 AI 資安策略的六大支柱

企業要建立安全且可管理的 AI 環境，不能只依賴單一工具，而應從治理、資料、應用、權限、防禦及持續監控等面向著手：

1. AI 治理（AI Governance）

   • 重點：建立企業 AI 使用規範與責任制度，避免 AI 工具在缺乏管理下被任意使用。
   • 關鍵措施：建立風險分級制度、盤點內部 AI 工具、導入前風險評估、整合 ISO 42001 與 ISO 27001。

2. 資料安全（Data Security）

   • 重點：確保企業資料不因 AI 應用而失控。
   • 關鍵措施：導入資料分類分級、建立 AI 使用黑白名單、利用 DLP 與資料遮罩、管理 RAG 知識庫權限。

3. AI 應用安全（AI Application Security）

   • 重點：將 AI 安全納入軟體開發生命週期（Secure SDLC）。
   • 關鍵措施：導入 SAST/DAST/SBOM、防範 Prompt Injection、管理第三方 API 供應鏈、定期進行 AI Red
     Team 測試。

4. 零信任架構（Zero Trust）

   • 重點：不因是內部 AI 系統就預設其完全信任。
   • 關鍵措施：AI Agent 採最小權限原則、API 操作嚴格身分驗證、高風險操作必須經過人工核准。

5. AI 驅動資安防禦（AI for Security）

   • 重點：利用 AI 提升資安監控及事件應變能力。
   • 關鍵措施：AI 輔助 SIEM 告警分析、異常行為與威脅辨識、結合 SOAR 加速事件應變。

6. 持續監控與韌性（Cyber Resilience）

   • 重點：假設攻擊可能發生，確保企業仍能持續營運。
   • 關鍵措施：建立 AI 操作日誌稽核、持續監控模型異常行為、定期執行備份與營運持續演練。

三、 傳統資安與 AI 時代資安的差異

傳統資安以網路、主機及應用程式為主；進入 AI 時代後，防護邊界已延伸至資料、模型與 AI Agent。

• 防護對象

  • 傳統資安：網路、主機、應用程式。
  • AI 時代資安：網路、資料、模型、AI Agent。

• 防護模式

  • 傳統資安：規則式、被動防禦。
  • AI 時代資安：風險導向、持續監控、自動化輔助。

• 身分管理

  • 傳統資安：人員與系統帳號。
  • AI 時代資安：人員、服務帳號、AI Agent。

• 資料保護

  • 傳統資安：加密、權限、DLP。
  • AI 時代資安：加密、DLP、AI 輸入輸出治理。

• 開發安全

  • 傳統資安：DevSecOps。
  • AI 時代資安：DevSecOps + AI Security。

• 威脅偵測

  • 傳統資安：SIEM、EDR。
  • AI 時代資安：SIEM、EDR + AI 輔助分析。

• 安全治理

  • 傳統資安：ISO 27001。
  • AI 時代資安：ISO 27001 + ISO 42001。

• 事件應變

  • 傳統資安：人工分析與處置。
  • AI 時代資安：AI 輔助分析、人工監督決策。

四、 AI 時代資安策略的兩大核心

企業推動 AI 資安時，必須同步發展兩種能力：

• Security for AI（保護 AI 系統的安全）：確保 AI 模型、資料與 Agent 不被攻擊、濫用或操控。
  可參考的國際標準與框架包含：
  • ISO/IEC 27001：建立基礎資訊安全管理制度。
  • ISO/IEC 42001：建立人工智慧管理與治理機制。
  • OWASP Top 10 for LLM Applications：大型語言模型應用安全風險指引。
• AI for Security（利用 AI 強化資安）：透過 AI 提升威脅偵測、漏洞管理與事件應變效率，協助資安團隊更有效率地掌握潛在風險。

結語

AI 時代的資安競爭力，不在於禁止使用 AI，而在於建立安全、可信任且可治理的 AI 環境。企業應以 「AI 治理為基礎、資料安全為核心、零信任為架構、AI 防禦為能力」，才能在推動數位創新的同時，有效把關潛在風險。