Day 21｜Misinformation 是什麼？

前面介紹了 Unbounded Consumption，今天來看看另一個重要問題：Misinformation（錯誤資訊）。

簡單來說，Misinformation 指的是：

LLM 產生了錯誤、不完整，或缺乏可靠依據的資訊，卻以看起來合理的方式呈現給使用者。

最常見的例子就是大家常聽到的 Hallucination（幻覺）。

例如使用者問：

「某家公司在 2024 年推出了哪些產品？」

模型可能會給出一份看起來非常完整的答案，甚至列出產品名稱、日期與來源。

但仔細查證之後，可能發現其中有些資訊根本不存在。

問題就在於：

LLM 並不一定知道自己說的是錯的。

它的主要工作是根據目前提供的內容與學習到的模式產生回答，而不是像搜尋引擎一樣，天生就會對每一個答案進行事實查核。

為什麼 Misinformation 特別危險？

如果只是聊天時講錯一個小問題，影響可能不大。

但當 LLM 被使用在：

客服

文件分析

醫療或金融資訊

企業決策

AI Agent

情境就不一樣了。

因為使用者可能會把 AI 的回答當成正確資訊，甚至直接拿去做下一步決策。

所以 Misinformation 真正值得注意的地方，不只是：

「AI 會不會講錯？」

而是：

「當 AI 講錯的時候，我們有沒有辦法發現它？」

這也是 LLM Application 和一般搜尋系統很不一樣的地方。