《DAY 16》
生成式 AI 的安全挑戰：對抗性攻擊、模型中毒與 Deepfake ⚠️

TL;DR 速讀重點

⚡ 快速掌握本文精華

• 對抗性攻擊 (Adversarial Attack)：微小擾動 → 造成 AI 誤判
• 模型中毒 (Model Poisoning)：惡意數據 → 污染模型 → 輸出偏差
• Deepfake 假資訊：真假難辨 → 衝擊社會信任
• 核心價值：AI 安全 = 技術防護 + 法規監管 + 使用者媒體素養

前言：AI 強大，但也存在風險

生成式 AI 與機器學習在帶來便利的同時，也可能被惡意利用。
今天我們聚焦三大 AI 安全挑戰：

• 對抗性攻擊：透過「幾乎不可見」的干擾欺騙 AI
• 模型中毒：惡意數據讓模型學壞
• Deepfake 假資訊：真假難辨，影響深遠

📸 插圖：

圖 1：模型中毒（Model Poisoning）示意圖

1. 對抗性攻擊：小小變動，大大誤判 🚦

AI 模型可能被設計好的「對抗樣本」欺騙。

🔧 案例：交通標誌誤判

• STOP 標誌 → 加入幾乎不可見的干擾
• AI 卻辨識成「限速 45」
• 對自駕車安全構成威脅

📸 插圖：

圖 2：對抗性攻擊示意圖

2. 模型中毒：從源頭污染 AI 🧪

如果惡意數據被混入訓練集 → 模型就會學壞。

🔧 案例：假評論數據

• 惡意者注入大量「好評」或「負評」
• 語言模型 / 推薦系統被操縱
• 影響用戶判斷與平台公信力

參考上方 圖 1（模型中毒示意圖）——此機制會使模型學到錯誤分佈，導致整體輸出偏差。

3. Deepfake 假資訊：真假難辨的挑戰 🎭

生成式 AI 可製作超逼真的影像與語音 → 假新聞、詐騙、政治操弄風險升高。

🔧 案例：Deepfake 影片

• 假冒名人發言 → 操縱輿論
• 詐騙電話 → 騙取金錢或隱私

📸 插圖：

圖 3：Deepfake 假資訊與真實影像對比

防護與因應策略 🔐

• 技術層面：強化對抗訓練、異常偵測、資料簽章與驗證
• 制度層面：法規監管、平台審查與溯源機制
• 使用者層面：提升媒體素養，學會辨別真偽

結語：AI 安全的三大支柱

1. 技術防護
2. 法規監管
3. 使用者媒體素養

唯有多方合作，才能讓 AI 既安全又可靠。

Hashtags

#AI安全 #對抗性攻擊 #模型中毒 #Deepfake #AI風險 #AI治理 #生成式AI