Day 15｜Data and Model Poisoning 是什麼？

前面介紹了 Supply Chain，今天來看看另一個和資料、模型有關的安全問題：Data and Model Poisoning（資料與模型中毒）。

簡單來說，這類攻擊就是：

攻擊者試圖在 AI 的資料或模型中加入惡意內容，讓它學到錯誤的行為，或在特定情況下產生攻擊者預期的結果。

什麼是 Data Poisoning？

Data Poisoning（資料中毒），就是污染 AI 會使用的資料。

例如模型在訓練、Fine-tuning，甚至建立 Embedding 時，都需要大量資料。如果這些資料被偷偷加入錯誤、偏頗或惡意內容，模型就可能把這些內容學進去。

可以簡單理解成：

餵給 AI 的資料被動了手腳，AI 也可能因此學到錯誤的東西。

什麼是 Model Poisoning？

**Model Poisoning（模型中毒）**則是直接針對模型或模型相關元件下手。

例如第三方提供的模型、LoRA Adapter 或其他模型 Artifact 已經被竄改，開發者在不知道的情況下直接使用，就可能把問題一起帶進自己的 Application。

因此可以簡單區分：

Data Poisoning → 污染 AI 學習或處理的資料

Model Poisoning → 污染或竄改 AI 使用的模型及相關元件

這類問題和一般 Application 漏洞有一個很大的不同。

一般程式漏洞，可能修改程式碼、更新套件就能修補；但如果模型已經「學會」錯誤的行為，可能就需要重新檢查資料、重新訓練模型，甚至直接更換模型。

所以 Data and Model Poisoning 真正需要注意的是：

問題可能不是出在 AI「現在怎麼被使用」，而是出在 AI「之前學了什麼」。