在哈利波特故事中,佛地魔為了確保自己的永生不死,而撕裂了自己的靈魂,做成六個分靈體,藏在多個不同的位置。
數位時代的資料不會像靈魂一樣被分割,但每一次的傳輸,都等同於對資料做了一次的複製行為。每個資料處理節點都會得到一個可以被保存下來的副本,出現一次被長期保存的可能性。
企業正式簽約採購的 AI 服務,有著合約的規範,當企業需要時至少可以透過合約要求,取得更多的資料處理細節及承諾。
但是當涉及影子 AI 時,企業可能連影子 AI 的存在都不知道了,那就更別說是要追溯資料的可能流向了。這就會對企業的資料治理帶來很大的一個破口。
先不考慮會不會長久保存,當企業資料被傳上 AI 服務時,資料會經過網頁前端、網頁後端、 API 、資料庫等處理節點。每個節點都可能產生一份暫存或長期保留的資料副本。當資料庫備份時,這份資料又被複製了一次。此外,AI 服務的 log 中也有可能有意或無意的存了一份下來。至此,我們已經有了 4 - 5 份的資料分靈體。
接下來讓我們思考一下,當使用者用完,而且很有資安意識的刪除了這個對話時,有哪些資料是真的會被刪掉呢?
網頁前端的應該是沒了,至少使用者是看不到這個資料了。但網頁後端、服務、資料庫中,都可能只是做了軟刪除(Soft Delete,指資料透過標記暫時視為刪除狀態,但實際的刪除時機在每個服務設計上都不一樣)。
即使前面這些都真的刪除了,Log 和資料庫備份才是大魔王。一般而言,Log 資料是被保存一段期間,且基於稽核或驗證需求在保存期間內不會被變更刪除。所以在使用者刪除資料時,這些 Log 未必會被同步刪除。而資料庫備份也是類似的用意,備份存在的目的就是當錯誤的更動或刪除發生時,要有可以回復資料的依據。所以刪除資料的動作,也不一定會同步套用到備份檔上。
企業簽約採購的 AI 服務,都已經會遇到這些問題了,員工在暗地裡使用的影子 AI,問題就會更大了。因此,有哪些地方會有副本存在,就成了企業在治理影子 AI 議題的下個該問的問題。
資料有副本並不可怕,可怕的是你不知道有多少個副本。
故事中,當佛地魔試圖殺死年幼的哈利波特時,無意將自己的一部份靈魂放到了哈利波特身上。而使得哈利波特成為了連佛地魔自己都不知道的第七個分靈體。這也是企業在面對影子 AI 時,很容易忽略的問題,企業就算知道了影子 AI 的存在,但還是很難確認在資料處理過程中,是不是留下了未知的資料分靈體。