iT邦幫忙

2026 iThome 鐵人賽

DAY 28
0

一般企業員工很容易誤以為當一個 AI 產品被資安團隊列入白名單後,就代表在企業內可以任意使用。然而實際上並不是這麼一回事,當一個產品被導入企業使用時,常常都伴隨著一個特定的使用情境,超過該情境的使用,就有可能踩到企業資安治理的紅線。而相關產品每一次的改版、每次更新使用或隱私條款,都可能是需要重新評估相關產品是否還適合企業使用的時機。

總結起來,就是企業除了需要做到「產品評估」以外,還需要做到「情境評估」及「持續評估」。

而這些外部產品的導入,也必須要符合「零信任原則」的規範。零信任的重點,在於時時確認、事事確認,不因為一個身分或裝置已經通過一個認證,就放任這些它進行所有的行為,而是應該在每個必要的關鍵環節,重新確認授權有效性。銀行系統中,進行關鍵的轉帳等行為都會要求再次驗證,就是這種精神的一種展現。

當企業在採購這些外部的產品時,一定會定義這個產品的使用者是誰、用在哪些電腦上、可以存取哪些服務或資訊等。理想上在每一個必要的行動節點,都應該還要再驗證一次使用者、裝置或權限有效性。而即使有些行為無法當下驗證,也應該要在事後藉由 LOG 等機制進行確認與稽核。

而由於 AI 產品帶有一定的自主性,在最小權限原則部分尤其需要仔細控管,依任務需求授予適當的權限。並透過適當的驗證與持續的監控,確保 AI 並未越權存取資料。如果是更敏感的系統,甚至可能需要將資料的讀取與寫入拆分給不同的 AI Agent 執行,並限制每個 Agent 可以連結的內外部系統,以降低單一 Agent 出錯可能造成的損害。

此外,企業也應該評估是否需要給予 AI 一個特殊身分,而不是直接沿用使用者的身分認證,以確保行為可以被正確稽核與歸責。

而即使所有的認證都順利通過了,對於系統和 AI 的即時監控也不能鬆懈。並且須要能做到在發現異常時,及時觸發 Kill Switch 、發佈告警、並撤銷既有權限。而這些止損的措施,也都應該受到完整的驗證。

在資安的世界沒有萬無一失的防禦機制,所以才會有「瑞士起司理論」。而基於「零信任原則」建裡起來的以上種種機制,就是希望能透過縱深防禦的概念,避免起司上的洞陰錯陽差地排列在一起。


上一篇
妙麗的時光器:用自動化和教育訓練解放 IT 及資安團隊的時間
下一篇
當黑魔法入侵時:Shadow AI 出事怎麼辦?
系列文
影子 IT 與他們的產地 - AI 時代的影子 IT 資安議題與應對之道 共 30 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言