Day 12｜LLM Supply Chain 有哪些風險？

上一篇提到，LLM Application 會依賴許多外部元件，而這些元件本身也可能成為攻擊入口。

那麼，LLM Supply Chain 到底有哪些常見風險？

1. 模型被竄改

如果使用了來源不明或遭到竄改的模型，模型本身可能就已經被植入惡意行為。

開發者在不知情的情況下把模型加入 Application，最後可能讓整個系統受到影響。

2. 第三方套件存在漏洞

LLM Application 通常會使用大量 Python 套件或其他開源元件。

如果其中某個套件遭到入侵、被發布惡意版本，Application 也可能受到連帶影響。

3. 資料集遭到污染

模型訓練或微調需要大量資料。

如果使用了被竄改或不可信的 Dataset，模型可能學習到錯誤甚至惡意的內容，進一步影響模型行為。

4. 第三方服務成為風險來源

現在很多 Application 會直接串接第三方 AI API、Embedding Service 或其他外部服務。

一旦這些服務本身發生安全事件，也可能波及使用它們的 Application。

所以，Supply Chain 的問題其實不是：

「我們自己的程式有沒有漏洞？」

而是：

「我們所依賴的東西，有沒有可能成為漏洞？」

因此在 LLM Application 中，除了檢查自己的程式碼，也需要確認模型、資料、套件與第三方服務的來源與可信度。

這也就是 LLM03 Supply Chain 想提醒我們的核心觀念。