沒有 AI 以前,網路上琳瑯滿目的 SaaS 服務是企業員工的萬應室。到了 AI Agent 時代,員工不再需要往公司外面尋求解方,手邊的 AI 工作夥伴就是員工的神燈精靈,只要輕聲對 AI 說出需求,他就會努力幫你解決問題。
於是長年以來,軟體團隊不願意做的功能,或是基於資安考量不能做的功能,都成了非技術員工向 AI Agent 許願的內容。
如同前幾篇所說的,AI Agent 一般不會去思考企業內部的資安及治理需求,也缺乏對內部系統的全盤認識。所以只能就使用者給的資訊,儘可能地去滿足使用者的痛點與需求。
於是乎,AI Agent 開始試圖套 Tempermonkey 等瀏覽器外掛去修改公司內部網站的前端,以取得、整合或串接內部網頁系統上的特定資訊 ,提供員工想要的額外功能。原本應該被用來做網頁自動化測試的 Playwright 等工具,被拿來實作員工想要的網頁操作自動化。原本不開放串接自動化的 Email 信箱,也被拿來串接自動處理了。原本刻意不開放外部連線的 Server,硬是被建了一條 Reverse Tunnul 讓外部服務可以存取。而這一切都在開發、營運與資安團隊不知情也難以追蹤的情況下發生。而提出需求的員工也完全不知道自己正在做的事情有多大的風險。
而這些影子工具之所以原本不存在企業內部,往往正好是因為相關的風險太高,所以開發團隊不做,資安團隊也不同意這樣進行。於是,原本刻意保留該由人工確認的關卡,可能就被自動化操作跳過了。原本不存在的邏輯缺口漏洞,可能就這樣被製作出來了。原本不該被轉寄的 Email 信件內容,可能也就這樣被洩漏了。而在開發過程中,AI Agent 也可能因此透過使用者的帳號權限碰觸到原本不應碰觸的資料與系統。企業的安全邊界與防火牆也因此被打出一個又一個的缺口。企業的資安風險,也就隨著這一個又一個的影子工具的誕生,而節節升高。
為了確保企業的資訊安全,這一切的額外功能需求,終究還是應該要回歸到與開發、維運及資安單位進行仔細的討論確認,而非恣意的要求 AI 實做。
「AI Agent 終究無法為他的所作所為負責,最終需要負責的還是對 AI 下命令的那個人。」