到目前為止，我們已經學會如何透過精準的提示詞，引導 AI 正確地「發問」與「推理」。然而，要讓 AI 的答案真正做到可追溯、可稽核、並能持續更新，單憑既有的推理能力是遠遠不夠的。我們需要將模型的思考「接地」，使其與真實世界的資料連結。

這就是 RAG（Retrieval-Augmented Generation，檢索增強生成） 技術登場的時刻。它能將外部知識即時檢索進來，讓 AI 的每一個回答都有根有據，甚至在輸出結果中附上精確的引用來源。

RAG 是什麼？

想像一場考試。傳統的大語言模型（LLM）像一個勤奮但只會死記硬背的考生，面對訓練時早已熟讀的題目，他能對答如流；可一旦遇到範圍外的陌生問題，便只能憑空猜測，胡亂作答。

而 RAG 則截然不同，它賦予了 AI 一種「開書考」的能力。在面對問題時，AI 不再僅僅依賴腦中的記憶，而是可以即時翻閱旁邊的參考書（也就是外部的知識庫或資料庫），從中查找最新、最正確的資訊，再結合自身的理解與生成能力，組織出一個完整且可靠的答案。

RAG 的核心流程，完美結合了「檢索」與「生成」：

• 檢索（Retrieve）： 如同考生翻閱書本，系統會先根據問題，到龐大的知識庫或文件中，精準找出最相關的幾段資料。
• 生成（Generate）： 接著，模型會消化這些檢索到的新鮮資訊，並以此為基礎，組織語言、提煉重點，生成一段流暢且有根據的回答。

透過這個模式，AI 不再是一個封閉的「記憶黑盒子」，而蛻變成一個懂得如何**「查資料、找證據」的聰明思考者**。

為什麼我們需要 RAG？

若單純依賴傳統 LLM，我們很快會碰到三大難以迴避的瓶頸：

• 知識的「保存期限」
  模型的知識有其「訓練截止日期」。例如，一個以 2023 年資料訓練的模型，無法準確回答 2025 年發生的事件，因為那超出了它的認知範圍。
• 惱人的「幻覺」現象
  當模型對某個問題一無所知時，它不會承認「我不知道」，而是傾向於編造一個聽起來煞有其事、實則完全錯誤的答案。這種「一本正經地胡說八道」，就是所謂的「幻覺」（Hallucination）。
• 高昂的「更新成本」
  想讓模型學會新知識，傳統方法只有重新訓練或微調（Fine-tune），兩者都極其耗時且所費不貲，對於需要快速迭代的商業應用來說，幾乎不切實際。

RAG 正是解決上述痛點的完美解方。它巧妙地繞過了重新訓練的漫長道路，讓我們只需更新外部資料庫，模型就能立刻掌握最新的知識。

RAG 的四大優勢

• 準確性
  • 答案會引用文件或知識來源，可驗證可靠性。
  • 適合醫療、法律這種「錯不得」的場景。
• 即時性
  • 資料庫可隨時更新，模型馬上就能回答最新內容。
• 低成本
  • 不需要每次知識更新就重新訓練模型，省下算力與金錢。
• 客製化
  • 不同行業可以有專屬知識庫。
  • 例如：銀行用戶可以查詢內部 SOP；醫院可以查詢醫療案例。

明天將以技術角度再深入講解RAG