生成式 AI 的快速發展為技術創新帶來了巨大的潛力，但同時也引發了深刻的資料隱私問題。生成式 AI 模型透過大量資料學習來生成新內容，這些資料可能包含個人識別資訊 (Personal Identifiable Information, PII) 或敏感資料。如果這些模型沒有適當的隱私保護措施，可能會無意間暴露或重現這些敏感資料，進而引發嚴重的隱私風險。
訓練資料的暴露
訓練生成式 AI 模型所需的大規模資料通常來自於多個來源，這些資料可能未經過充分的去識別化處理，從而包含敏感資訊。當生成式 AI 在生成新內容時，可能會無意中重現部分訓練資料，導致敏感資料的暴露風險。
模型推論 (Model Inference) 過程中的資料外洩
在使用生成式 AI 進行推論時，如果用戶輸入的提示中包含敏感資訊，這些資訊可能會進入模型並影響生成的內容，進而導致敏感資料的外洩。例如，某些用戶可能會在與 AI 聊天機器人的互動中透露個人資訊，這些資訊可能被其他用戶的請求而取得，從而引發隱私問題。
記憶與關聯性問題
大型語言模型可以記住和關聯訓練資料中的個人資訊，這種記憶和關聯性使得模型能夠生成準確但可能侵犯隱私的內容。如果這些模型無法忘記或刪除特定的個人資訊，則難以遵守某些隱私權政策，如 GDPR 中的「被遺忘權」。
差分隱私 (Differential Privacy, DP)
差分隱私是一種有力的隱私保護技術，透過在資料使用隨機雜訊來保護個人資訊。這種技術能夠在保證資料實用性的同時，有效防止生成模型中重現具體個人的敏感資訊。
合成資料取代敏感資訊
為了避免使用真實的敏感資訊，一些企業選擇使用合成資料來訓練生成式 AI 模型。合成資料模擬真實資料的統計特徵，但不包含任何真實的個人資訊，從而在保護隱私的前提下，維持模型的有效性。
資料去識別化與加密
在資料收集和處理的過程中，應採用資料去識別化和加密技術，確保敏感資訊在訓練過程中不被洩露。此外，儲存和傳輸資料時應使用加密技術，以防止未經授權的請求。
使用私有大型語言模型
一些企業選擇訓練和部署私有的大型語言模型，這些模型僅使用企業內部的專有資料，從而減少敏感資訊外洩的風險。私有大型語言模型的請求控制應嚴格管理，僅授權人員可使用這些模型及其生成的資料。
生成式 AI 的應用涉及多個法規和倫理問題。在全球範圍內，包括 GDPR、CPRA 在內的資料隱私法規對於個人資料的處理設置了嚴格的要求。企業在使用生成式 AI 技術時，必須確保符合這些法規，尤其是在處理涉及跨境資料傳輸和資料主體權利的情況下。此外，生成式 AI 所生成的內容在不同法域之間流動時，可能會面臨知識產權和管轄權的挑戰。
iThome鐵人賽
看影片追技術