在昨天的文章中,我們順利完成了能即時在通訊軟體內對答如流的「對話式 BI 助理」。
然而,當這套系統要真正走向大型企業或面對長年累積的業務資料時,一個嚴峻的工程瓶頸便會浮現:
Token 上限與成本爆炸:如果手邊有數萬筆歷史訂單、厚達上百頁的年度財務審計報告、或是各產品線的詳細規格手冊,我們不可能在每次提問時都把幾十萬字的原始資料整批塞進 Prompt 裡。
模型幻覺(Hallucination):當背景文字過長時,大型語言模型容易忽略核心細節,甚至「自行腦補」錯誤的產品退換貨政策或折讓數字。
為了解決「海量外部資料」與「高精確度查詢」的矛盾,業界目前最主流、也是最具性價比的架構就是 RAG(Retrieval-Augmented Generation,檢索增強生成)。今天我們將展示:如何在 Dify 中利用開箱即用的知識庫模組,將企業內部資料向量化,並透過 n8n 打造精準外腦檢索管線!
一、30 秒看懂 RAG 運作機制:開卷考試原理
如果把傳統直接問 LLM 比喻為「閉卷考試」(全憑模型預訓練時記住的有限常識),那麼 RAG 就是讓 AI 進行「開卷考試」:
┌────────────────────────┐
│ 使用者提問 │ ──> 「請問退貨超過 30 天還能申請退款嗎?」
└────────────────────────┘
│
▼ (1. 向量相似度搜尋 Vector Search)
┌────────────────────────┐
│ 企業專屬向量知識庫 │ ──> 只撈出最相關的 2~3 段公司政策規章(Top-K chunks)
└────────────────────────┘
│
▼ (2. 拼裝精準 Context 送給模型)
┌────────────────────────┐
│ 大型語言模型 (LLM) │ ──> 根據「指定規章」生成精確無誤的標準解答
└────────────────────────┘
核心優勢:
零幻覺:回答必須嚴格依據檢索到的文件段落。
極省成本:每次只傳送最相關的幾百字給模型,大幅降低 Token 消耗。
即時更新:只要更新知識庫檔案,AI 立刻具備最新知識,完全不需要花大錢微調模型(Fine-tuning)。
二、實戰步驟一:在 Dify 建立專屬商業知識庫
Dify 原生內建了業界頂級的知識庫管線(涵蓋文件解析、切塊、Embedding 向量化與存儲),全程視覺化配置:
操作步驟:
進入知識庫專區:
登入 Dify 控制台,點選頂部導覽列的 「知識庫 (Knowledge)」。
點擊 「建立知識庫 (Create Knowledge)」。
上傳企業業務文件:
支援上傳 CSV、Excel、PDF、Markdown 或 TXT 格式檔案。
此處我們上傳:
Superstore_產品目錄與保固政策.pdf
2025-2026_各季促銷退貨規範.txt
分段清洗與向量化設定:
分段模式:選擇「高品質 (High Quality)」模式(系統會使用 Text Embedding 模型將文字轉為向量)。
檢索設定:推薦使用 「混合檢索 (Hybrid Search)」(結合語意向量搜尋與關鍵字全文檢索,確保精確命中專有名詞)。
點擊「儲存並處理」,Dify 會在背景自動切塊並建立向量索引,幾秒鐘後知識庫即準備就緒!
三、實戰步驟二:將知識庫掛載至 BI 代理人
知識庫建立好後,只要把它作為「外腦」外掛到我們原本的 Agent 即可:
回到 【Day 22】 建立的 對話式 BI 數據助理 應用中。
在左側配置面板中,找到 「上下文 (Context)」 區塊。
點擊 「+ 新增」,勾選我們剛才建立的業務知識庫。
在召回設定(Retrieval Settings)中:
設定 Top K 為 3(每次提問只挑選關聯度最高的 3 個段落)。
勾選 「引用與歸屬 (Citations)」,這樣 AI 在回答時會主動標註引用自哪一份文件的第幾頁,極具企業可信度!
點擊右上角「發布」更新 API。
四、實戰步驟三:透過 n8n 自動化同步知識庫
知識庫的資料不能是死水。如果營運團隊每週在 Google Drive 上傳新的產品清單,難道要人工手動去 Dify 重新上傳嗎?
透過 n8n,我們可以實現知識庫文件的自動同步:
Trigger:使用 Google Drive Trigger 節點,監聽特定雲端資料夾中「是否有新增或更新的 PDF/CSV」。
HTTP Request:當有新檔案放入時,n8n 自動下載檔案,並呼叫 Dify 的 Knowledge API 端點:
POST /v1/datasets/{dataset_id}/document/create_by_file
這樣一來,前線人員只要把檔案往 Google 雲端硬碟一丟,n8n 就會在背景自動推送到 Dify 完成向量化,BI 助理的外腦知識永遠保持在最新狀態!
五、成果展示:結合數值與規章的終極問答
此時在 Discord 或 Slack 中提問,機器人的能力已經超越單純的數值加減:
使用者提問:
@BI助理 請問辦公設備類的投影機如果客戶反映有瑕疵,退貨運費是由誰負擔?目前這類產品在東部的退貨率高嗎?
AI 助理回覆:
📑 政策條款說明(引用自《產品目錄與保固政策》第 4 條):
針對投影設備等高精密儀器,在收到貨 14 天內回報功能瑕疵,退貨運費由我方公司全額吸收;若超過 14 天則由經銷商與客戶依協議分攤。
📊 即時數據表現:
檢視近期訂單數據,東部地區投影機產品的退貨率目前為 1.8%,處於全區最低的優良水準(全區平均為 3.2%)。