吉德羅·洛哈是鄧不利多重金禮聘的明星級教授，也是一位知名的暢銷書作家。然而他書中所有的冒險故事都是剽竊其他人的經驗而來，在他的明星光環後面其實沒有那麼多的真實經驗，所以到了霍格華茲之後，經常在課堂上教授錯誤的內容，帶來各種混亂，甚至用錯魔法讓哈利波特的傷勢變得更加惡化...

在前一篇中，我們提到在企業為所有員工配備 AI Agent 後，可能讓沒有技術背景的員工，開始自己開發工作上想要的程式。今天想來聊聊另一個普遍的 AI 幻覺問題。

從 2023 年 ChaTGPT 開始出現在大眾面前後，AI 幻覺就是至今仍無法在技術上完全解決的問題之一。然而隨著 AI 回答問題的品質越來越好，大家也漸漸忘了 AI 本身還是很容易犯錯的這件事。當企業開始配置 AI Agent 作為員工的工作夥伴，而員工也開始越來越習慣在不熟悉的事務上諮詢 AI 意見時，另一個問題就逐漸浮上了檯面。

因為員工自身的背景知識不足以判斷 AI 的答案是不是正確合理，於是常常只能盲目信任並且照做，甚至因為 AI 講得頭頭是道，而將 AI 給予的建議奉為圭臬，反而回頭質疑企業的 IT 或資安人員不夠專業，這還是員工有記得回頭向 IT 或資安人員確認的情境，如果在 AI 自信滿滿地提出一個有效，但實際上是繞過了資安卡控機制的作法，員工又沒有再次確認，恐怕就直接違規而不自知了。

大家應該多少也聽過醫師或律師的抱怨，在這個 AI 時代，常有民眾信心滿滿的拿了 AI 給的建議，就想要踢館的情境。我們也只能反覆地提醒 AI 是會犯錯的，並不能完全的信任。

我在寫作這個系列的時候，也有依靠 AI 的協助。但主要是用 AI 來協助查找資訊及尋找寫作靈感，以及最後再協助確認有什麼可以額外補充的，實際寫作的內容還是以自己書寫為主。畢竟寫作鐵人賽的其中一個用意，也是讓自己重新整理思緒並從中學習。如果只是用 AI 寫完 30 天，而沒有自己思考過化為自己的知識，實在是有點沒意義。在跟 AI 討論的過程中，也是時常會發現 AI 給出了和我的認知中不一樣的判斷，或是錯誤的內容。如果不是我真的有相關的背景知識與判斷，真的很容易被 AI 牽著走。

對企業來講，最理想的情況會需要在導入 AI 時輔導員工對 AI 的產出有正確的認知，但實際上這樣的情況卻常常無法落實到每一個人。怎麼讓使用者能正確使用 AI ，終究還是一個待解的難題。