AI 最危險的錯誤，不是回答「我不知道」。

而是明明不知道，卻回答得非常有自信。

前言

如果你已經開始使用 ChatGPT、Copilot 或 Gemini，可能曾經遇過以下情況：

• AI 提供了不存在的網址
• AI 引用了找不到的資料來源
• AI 把產品功能講錯
• AI 編造數字或統計資料
• AI 把不同公司的產品混在一起

更令人意外的是：

這些答案看起來往往都很合理。

文法正確。

邏輯通順。

語氣自信。

甚至還會列出條列、表格與分析結論。

但內容卻可能完全錯誤。

這種現象稱為：

AI 幻覺（Hallucination）

而了解 AI 幻覺，是安全使用 AI 最重要的一課。

什麼是 AI 幻覺？

AI 幻覺（Hallucination）是指：

AI 產生了看似合理，但實際上不正確、不存在或缺乏事實依據的內容。

例如：

請提供某產品官方下載網址。

AI 回覆：

https://download.company.com/product/latest

結果點進去發現：

404 Not Found

這個網址可能根本不存在。

但 AI 並不是故意欺騙你。

它只是根據已學習的語言模式，推測一個「看起來像真的」網址。

AI 為什麼會產生幻覺？

很多人誤以為 AI 像搜尋引擎。

其實不是。

搜尋引擎：

找資料

AI：

產生內容

AI 的核心目標是：

根據上下文，預測下一個最合理的字詞。

因此 AI 並不是真正理解世界。

它是在預測機率。

當資料不足時，AI 很可能會：

• 補空白
• 猜答案
• 拼湊內容
• 產生最像答案的答案

於是就形成幻覺。

常見的 AI 幻覺類型

1. 編造事實

例如：

某公司成立於 1985 年。

實際查證：

成立於 1993 年。

2. 編造來源

例如：

根據 Gartner 研究顯示...

實際搜尋：

找不到該報告。

3. 編造網址

例如：

https://company.com/ai-report-2025

實際不存在。

4. 混淆產品

例如：

把：

• Copilot
• ChatGPT
• Gemini

的功能混在一起。

5. 編造數據

例如：

導入 AI 可提升效率 65%。

當追問來源時：

找不到任何依據。

哪些情況最容易發生幻覺？

最新資訊

例如：

• 今日新聞
• 最新版本
• 最新價格

冷門主題

例如：

• 小型廠商產品
• 特殊技術文件

缺乏背景資訊

例如：

幫我分析這個系統。

沒有提供任何背景。

要求過度推測

例如：

猜測這家公司未來策略。

AI 容易把推測講成事實。

如何降低 AI 幻覺？

方法1：要求提供來源

Prompt：

請提供資料來源。

若無法確認來源請直接說明。

方法2：要求標示不確定內容

請分別列出：

1.已確認事實
2.推測內容
3.需要查證內容

方法3：提供原始資料

不要問：

這份報告重點是什麼？

而是：

以下是報告內容。
請根據以下資料整理摘要。

方法4：交叉驗證

使用：

• Google
• 官方網站
• AI

互相比較。

方法5：相信重要資料必須查證

涉及：

• 法律
• 財務
• 資安
• 醫療
• 合約

一定要查證。

一個實際案例

問題：

某產品是否支援某功能？

第一步：

問 AI。

第二步：

到官方網站確認。

第三步：

比較差異。

很多情況下會發現：

AI 提供了很好的方向。

但官方文件才是真正依據。

因此：

AI 適合協助理解，不適合直接取代查證。

今日實作

請詢問 AI：

請說明你回答中哪些部分已確認，
哪些部分屬於推測。

並列出可驗證來源。

觀察回答會有什麼變化。

今日練習題

請找出最近一次使用 AI 的案例。

回答：

1. AI 提供了哪些資訊？
2. 哪些資訊有來源？
3. 哪些資訊沒有來源？
4. 是否存在可能的幻覺？
5. 如何進一步查證？

AI 查證五步驟

✅ 檢查日期

✅ 檢查來源

✅ 搜尋官方文件

✅ 比較多個來源

✅ 重要資訊人工確認

今日重點

✅ AI 幻覺是常見現象

✅ AI 可能編造事實、來源與網址

✅ AI 並非故意說謊，而是在預測答案

✅ 越重要的資訊越需要查證

✅ 使用 AI 的關鍵能力之一就是驗證能力

明日預告

Day 5｜使用 AI 前要知道的隱私與資安風險

很多資料其實不適合直接貼給 AI。

下一篇將討論：

• 哪些資料不能輸入 AI
• 公司使用 AI 的風險
• 個資與機密資訊保護
• 安全使用 AI 的基本守則