iT邦幫忙

2026 iThome 鐵人賽

DAY 6
0
AI 自動化

大學生的生存筆記:用 Dify 零程式打造專屬課堂複習與考前衝刺 Agent系列 第 6

Day 6:認識 RAG 技術:為什麼 AI 讀講義不會胡說八道?

  • 分享至 

  • xImage
  •  

一、前言

在前面幾天中,我們順利建立了第一隻 Chatbot,並透過 System Prompt 賦予它「醫資專屬助教」的專業口吻。
然而,目前 AI 所有的回答仍然建立在它「預先訓練的通用資料庫」之上。當我們詢問學校教授自編的投影片、特定章節定義,或是最新的醫療資訊標準時,它依然可能給出看似頭頭是道、實則完全錯誤的答案。
在醫學與工程領域中,這種「瞎掰」是考試與實務上的大忌。今天我們就來拆解解決這個痛點的關鍵技術——RAG(檢索增強生成)。

二、什麼是 AI 的「幻覺(Hallucination)」?

大型語言模型本質上是一個「文字接龍高手」,它根據機率預測下一個最可能出現的詞,而不是真正「理解」真偽。

  • 開卷考試 vs. 閉卷盲猜:
    • 傳統 LLM 裸答(閉卷考試):模型全憑記憶回答問題。遇到沒看過或記不清楚的細節,為了完成對話,它會組合看似合理的專有名詞來敷衍,這就是模型幻覺。
    • 醫資學習的大忌:例如將 DICOM 影像傳輸協定誤植成檢驗數據標準,或記錯 ICD-10 編碼規則,若直接拿來背誦應考,後果不堪設想。

三、認識 RAG 技術

RAG的全名為檢索增強生成(Retrieval-Augmented Generation),是一種整合「知識檢索」與「文字生成」能力的 AI 技術。
它的運作邏輯很像「先翻課本,再作答」:會在使用者提出問題後先去知識庫中進行檢索,再將相關內容進行整合,讓輸出的內容更可靠。
透過這種技術可以解決企業應用生成式AI準確性不足、知識落差、資料無法即時更新等問題。

為什麼學習助教一定要導入 RAG?(三大核心優勢)

  1. 更高的準確性與全面答案
    RAG 讓 AI 不再只是依賴模型的內建知識,而是能夠在回答前提早翻閱專屬知識庫。讓 AI 能精準提取核心定義與細節,大幅降低幻覺的風險。
  2. 無痛即時更新
    在 RAG 架構下,只要授課老師更新了投影片或補充教材,我們只需把最新版本的檔案重新上傳至知識庫,AI 就能秒速同步最新內容,完全零更新成本。
  3. 增強使用者信任
    RAG 技術讓 AI 輸出回答時能夠順便附上引用出處的資料來源,使用者若是需要更詳細的資訊,可以自行查詢來源文件。

四、觀念延伸:RAG 的常見分類有哪些?

RAG 技術,根據檢索方式主要分為三種:

  1. Vector RAG:向量型,入門門檻低
    Vector RAG主要應用於非結構化資料(如 PDF 講義、Word 筆記)。系統會先將文件進行「向量化」,儲存於向量資料庫中,提問時,透過比對語意最相近的資料來抓取答案。
  2. Graph RAG:圖譜型,準確度高
    將關鍵資料轉化為「語意式圖資料結構」,讓大型語言模型可以基於結構化的圖譜,進行高精度的檢索與推理。無需微調模型,即可查詢,還能處理複雜的「多跳需求」與「關聯邏輯」。
  3. Hybrid RAG:混合型,準確度高且具備完善
    Dify 最推薦採用的檢索模式。它同時融合了「向量檢索」與「關鍵字檢索」,能夠理解相似的語意,又能精確匹配幾個字符,大幅提升檢索命中率。

上一篇
Day 5:AI 助教人設雕刻:System Prompt 提示詞設定技巧
系列文
大學生的生存筆記:用 Dify 零程式打造專屬課堂複習與考前衝刺 Agent6
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言