Day 06｜什麼是檢索增強生成（RAG）？讓 AI 從閉卷考試變成開卷考試

2026 iThome 鐵人賽

DAY 7

AI 自動化

Data Machi 30 天學習系列：從 Chat 到 Product，打造真正能工作的企業 AI系列第 7 篇

18th鐵人賽

jackietung

2026-08-18 08:46:02

37 瀏覽

分享至

前一篇我們已經看到 Data Machi 的完整架構，而第一個要補上的能力，就是讓 AI 能取得企業文件。原因很簡單：如果模型回答前完全看不到公司的規範、報告或知識庫，它再聰明也只能靠通用知識猜測。

檢索增強生成（RAG，Retrieval-Augmented Generation）可以把這個問題理解成「把閉卷考試改成開卷考試」。模型本身不需要把所有公司文件背進參數裡，而是在收到問題後，先去文件庫找出最相關的內容，再把這些內容連同問題一起交給模型回答。

RAG 的三個核心步驟

第一步是 Retrieval（檢索）。系統不是把整份文件都丟進模型，而是從索引裡找出和問題最相關的幾段內容。

第二步是 Augmentation（增強），也就是把這些找到的文件片段補進模型的上下文（Context）。

最後才是 Generation（生成），由模型根據問題與找到的內容組織答案。

整個流程可以簡化成：

使用者問題
    ↓
Retrieval
找出相關文件片段
    ↓
Augmentation
將文件加入 Prompt Context
    ↓
LLM
    ↓
Generation
產生有來源依據的回答

這裡最重要的觀念是：

RAG 並不是讓模型學會文件，而是讓模型在回答當下看見文件。

因此，當文件更新時，只要重新建立或更新索引，就能讓後續回答使用新的內容，而不需要重新訓練大型模型。

RAG 適合什麼問題？

RAG 特別適合答案已經存在於文件裡的任務，例如：

「差旅報銷規範是什麼？」
「這份產品手冊如何定義某個功能？」
「過去是否有類似客訴案例？」
「公司的遠端工作政策有哪些限制？」

這些問題的核心都是：先找到正確內容，再整理成容易理解的回答。

但如果使用者問的是：

「昨天銷售多少？」
「現在庫存剩幾件？」
「這個月有多少新會員？」
「目前有哪些尚未完成的專案？」

這時候 RAG 就不一定是最好的選擇，因為這些通常是結構化，而且持續更新的資料。

後面的文章中，我們會使用工具使用（Tool Use）來處理這類問題，讓 AI 不只是搜尋文件，也可以向資料庫、試算表或其他企業系統取得即時資訊。

為什麼來源比回答漂亮更重要？

企業 RAG 不應該只追求「回答像不像人」，而要讓使用者可以回頭確認：

這個答案到底是根據哪一份資料得出的？

因此在 Data Machi 中，文件搜尋結果最好能保留：

來源檔名
文件頁面
相關文字片段
文件網址或識別資訊

當答案有爭議時，使用者就可以直接回到原始資料確認，而不是只能選擇相信或不相信模型。

這也是企業 AI 和一般聊天機器人很重要的差別。

好的企業 AI 不只需要回答：

「答案是什麼？」

還需要回答：

「你為什麼這樣回答？」

這也讓檢索增強生成（RAG）成為後續 Agent 架構中的一項重要工具。

當協調者（Coordinator）判斷某個問題需要企業文件知識時，就可以呼叫 RAG 搜尋相關內容，而不必期待語言模型永遠記得公司的規範。

延伸理解｜RAG 和 Fine-tuning 不一樣

對非工程背景的讀者，可以用「查資料」和「改變模型習慣」來區分 RAG 和 Fine-tuning。

RAG：回答以前先查資料

RAG 比較像參加一場開卷考試。

模型本身不需要把公司的規範全部背起來，而是在需要時查詢知識庫，再根據找到的資料回答。

因此，如果公司的政策從：

每年有 10 天遠端工作額度

修改成：

每年有 20 天遠端工作額度

只要更新知識庫中的文件，下一次查詢就可以取得新的資訊。

Fine-tuning：改變模型的行為或回答方式

Fine-tuning 則比較像重新訓練一位員工。

透過大量範例，讓模型更熟悉特定任務、回答方式或輸出格式。

例如：

固定使用某種客服語氣
學會特定分類方式
產生固定格式的輸出
適應某種專業任務模式

因此，如果我們只是希望 AI 能回答最新的公司規範，通常沒有必要為每次文件更新重新 Fine-tuning。

可以簡單整理成：

比較	RAG	Fine-tuning
核心概念	回答前查資料	調整模型行為
文件更新	更新知識庫即可	可能需要重新訓練
是否容易提供來源	容易	較困難
適合企業政策問答	很適合	通常不是第一選擇
常見用途	文件問答、知識搜尋	任務習慣、格式、語氣