iT邦幫忙

2024 iThome 鐵人賽

DAY 8
0

1-7 RAG:檢索增強生成技術介紹

https://ithelp.ithome.com.tw/upload/images/20240808/20046160zmFu8CHgeE.png

RAG (Retrieval-Augmented Generation) 是一種混合型自然語言處理(NLP)模型,它結合了信息檢索(Retrieval)和文本生成(Generation)的方法來處理語言任務。這種技術的核心思想是使用一個檢索系統來增強生成模型的性能,使其能夠產生更準確、更豐富的回答。

主要構成:

  • 檢索部分(Retrieval):
    這個階段的目的是從一個大型的文檔數據庫中檢索出與輸入查詢最相關的文檔。通常使用向量檢索技術,如Dense Passage Retrieval(DPR),來找到最好的候選文檔。
  • 生成部分(Generation):
    檢索到的文檔之後,這些文檔會被用作生成模型(如Transformer基模型)的輸入的一部分。生成模型會結合原始輸入和檢索到的文檔來生成回答。

應用場景

  • 問答系統:RAG可以提供更精確的回答,因為它不僅依靠訓練時學到的知識,還可以動態檢索相關文檔來提供信息。
  • 內容創建:在生成文章、報告或其他文本內容時,RAG能夠引用和整合來自多個來源的信息,提高內容的豐富性和準確性。
  • 對話系統:RAG可用於改善聊天機器人的回答質量,使其更具信息性和相關性。

目前 RAG 的做法

我們的目的很清楚,但是目前的做法,其實是百花齊放,各家都有自己提倡的作法,本系列將會有 Gemini API 及 ChatGPT 的 My GPT 及 Assistant API 的介紹及實作

參考

學 RAG 是假議題

關於我

我是 Wolke。我是一名專業程式開發者,專長是開發 AI 和程式解決方案。

我投入了不少時間在專業發展上。我是多本書的作者,其中包括《LINE聊天機器人+AI+雲端+開源+程式:輕鬆入門到完整學習》《ChatGPT來襲,未來人人都需具備的運算思維!應用詠唱工程來釋放程式生產力—程式學習/開發篇》。也有出版線上課程,我熱衷於分享我的經驗和技術,幫助其他開發者更好地利用 AI 工具。

也在許多知名大學、論壇、社團擔任講者,如果貴方有需要也歡迎與我聯繫。
2023年 講座 紀錄

最後這篇文章若有切合你的需求,敬請訂閱按讚分享


上一篇
1-6 人工智慧開發實踐前的 ( LLMs vs LLMs API )選擇指南
下一篇
2-1 處理生成式AI的幻覺問題
系列文
運用生成式 AI 服務 所提供的API 實做應用開發(以Gemini及ChatGPT為例)9
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言