iT邦幫忙

2024 iThome 鐵人賽

DAY 14
0
生成式 AI

RAG自己來系列:客服機器人系列 第 14

[Day 14] 介紹文字生成框架 - Langchain

  • 分享至 

  • xImage
  •  

https://ithelp.ithome.com.tw/upload/images/20240922/20146555ZFJ1v8R0Qs.png

LangChain 是開放原始碼的架構,可根據大型語言模型 (LLM) 打造應用程式。LLM 是針對大量資料預先訓練的大型深度學習模型,可以對使用者查詢生成回應,例如回答問題或從文本提示中建立影像。LangChain 提供工具和抽象化,藉以改善模型產生之資訊的客製化程度、準確度和關聯性。例如,開發人員可使用 LangChain 元件建立新提示鏈,或客製化現有的範本。LangChain 還包括其他元件,讓 LLM 無須重新訓練即可取得新資料。

統整了許多多多多多開源工具,如先前提到的 Milvus 或者 Qdrant 等等的 (詳細可參考這裡),針對 LLM API 的部分 Langchain 也整合了像是對 OpenAI、AzureOpenAI、You 的支持,透過這個工具,開發者可以很輕易地使用不同的大型語言模型服務。

特點

如其名,「Chain」就是可以透過「鍊」去串接使用者的輸入、處理及輸出,所以 Langchain 也是在開發專案的一個很好的工具,由於整合了許多大型語言模型服務,所以也可以依照自己的需求很快的切換不同的服務。

Langchain 包含了不同的元件,如:

  • Langchain
    Langchain 的所有基本框架,如資料儲存,文件分割,檢索等等工具
    https://ithelp.ithome.com.tw/upload/images/20240922/20146555iQm73mdrzg.png

  • LangServe
    可以快速部屬 FastAPI 的服務
    https://ithelp.ithome.com.tw/upload/images/20240922/20146555f8mQopJhSF.png

  • LangGraph
    用圖形化介面定義、執行和可視化 Langchain 的工作流
    https://ithelp.ithome.com.tw/upload/images/20240922/20146555FPEVnmuAIk.png

  • LangSmith
    LangGraph 的進階版,提供完整的 Langchain 的資料流檢視,例如 RAG 的文件加載、拆分、存儲和檢索等步驟,可透過前端頁面檢視生成的過程
    https://ithelp.ithome.com.tw/upload/images/20240922/20146555gVzLG9oOiV.png

參考資料


上一篇
[Day 13] 文字生成「服務」
下一篇
[Day 15] Langchain - Prompt & LLM
系列文
RAG自己來系列:客服機器人30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言