上一篇看的是怎麼規劃一次 AI 安全檢測，這篇換到攻擊之外的隱私、治理跟法規。

2023 年 3 月三星開放半導體部門的工程師用 ChatGPT，不到三個星期，南韓的經濟媒體 The Economist 就報導公司已經抓到至少三起機密外洩（AI Incident Database），有人把出錯的原始碼貼進去請它幫忙抓問題，有人把整場內部會議的逐字稿貼進去請它整理成會議紀錄，三星到 5 月直接全面禁用（Fortune 的報導）。

資料隱私：資料進了模型，你就刪不掉了

AI 黑魔法（23） 講過，訓練資料被模型背得太熟就問得出來，知識庫裡的向量也還原得回原文，資料進了訓練集或知識庫，就不再是一份你刪得掉的檔案，它散在模型權重跟一段一段的向量裡，事後想撤也不知道要撤哪裡。

所以隱私這條防線要做在資料進去之前，先想清楚哪些資料根本不該進，姓名、病歷號這種敏感欄位，送去訓練或進知識庫之前就先刪掉、遮掉，如果真的非用不可，那就要有人替這批資料負責，誰核准的、用在哪，這些要寫下來，而不是誰想用就送進去。

AI 治理：出事的時候，誰負責

這幾題，你們公司答得出來嗎？

• 哪些資料不能貼進 AI
• AI 工具是誰核准接進來的
• 出事之後查不查得到是誰在哪一步送出去的

制度面還有很多不同問題，但這些不用自己從零開始想，公司真的要建的時候，可以直接拿 NIST 的 AI Risk Management Framework 當底稿，先定好誰負責，再往下辨識風險、量測、處置。

公司要做到能被稽核，就照 ISO/IEC 42001 說的做，它是 AI 版的 ISO 27001。

這兩份文件的用處是把「誰、在哪一步、要留什麼證據」變成可以執行的流程，把安全接進 AI 的開發跟維運裡。

制度不會是你一個人建得起來的，你能做的是去問公司有沒有一份規定，寫清楚哪些資料不能貼進 AI，沒有的話，跟主管反映一下。

如果你是公司老闆，看到這一篇也順便記一件事，公告一句不准用 AI 一定擋不住，大家還是會為了工作方便拿自己的帳號來用，這樣乾脆花錢買一套商用版給大家，OpenAI 的企業方案有公開說明，不會拿你們的資料去訓練，誰在用、用了多少你也查得到，我沒有業配，也不是說一定要用 OpenAI，同樣的邏輯去找一個你們信得過的商用版就好，而且要好用到沒有人想再拿自己的帳號處理公司的機密，這樣你的 AI 治理就前進一大步了。

AI 法規：你打算怎麼用 AI，不是你說了算

前面兩件是自家內部的事，做不做、做到什麼程度你自己決定，法規是地區與全球的遊戲規則，不管你同不同意都必須參與。

歐盟的 AI Act 在 2024 年 8 月生效，照風險分級，從禁止、高風險、有限風險到最小風險，你打算拿 AI 去做什麼，決定你要扛多重的義務，拿去替全民打分數這種直接禁止，拿去篩履歷、做信用評分、判醫療影像這種算高風險，要做風險評估、留紀錄、留給人介入的空間，就算你不在歐盟，只要你的 AI 服務碰得到歐盟的使用者，一樣被它列管。

台灣的人工智慧基本法 在 2025 年 12 月三讀通過，明定政府推動 AI 要遵循七項原則，隱私保護與資料治理、資安與安全、透明與可解釋、問責都在裡面，它是一部基本法，訂定的是大方向，實際怎麼落到各行各業還要看後面的子法，但「AI 要可解釋、出事要有人負責」這些原則已經正式寫進法律，再加上原本就在管的個人資料保護法，你拿使用者的資料去訓練、去餵 AI，本來就要有合法依據，不是手上有資料就能用。

這篇的小總結

治理的第一步是一份清單，把公司裡現在有人在用的 AI 都列上去，每一項寫它拿去做什麼、用到哪些資料、誰核准接進來的，接著按影響分級，內部拿來寫寫文件的走簡化流程，會動到篩履歷、信用評分、醫療影像這種的才走完整審查。每一項還要寫上是誰放行它上線的，出事的時候又是誰能喊停，這兩個名字不要都落在做這套系統的人。

下一篇把這系列提過的內容整理成一份清單，讓你讀完這個系列之後，知道下一步可以往哪裡走。