iT邦幫忙

2024 iThome 鐵人賽

DAY 9
1

LangChain

LangChain的核心價值在於全面的生態和卓越的整合能力,就如同精心設計的積木系統,讓開發者能夠輕鬆組合各種AI服務,打造完善功能的應用。

LangChain的元件

https://ithelp.ithome.com.tw/upload/images/20240924/20151952loaZVoIqZE.png

LangChain的架構由多個組件構成,各自分擔工作,以基礎和表象一點的角度來說:

  • Models: 支援各平台的各種語言模型,是AI應用的關鍵核心。
  • Tools: 提供模型能額外執行的工具,用來實現Function calling & Use tools。
  • Prompts: 控制語言模型的上下文,是優化模型輸出的關鍵。
  • Output parser: 讓模型能輸出結構化的結果。

還有許多在建構AI服務過程中,會使用到的技術

  • Text splitters: 做文本內容分割的工具,常用於準備RAG給資料。
  • Vector stores: 用於儲存和檢索向量化的數據,是實現高效相似性搜索的關鍵組件,是RAG的核心。
  • Document loaders: 將資料載入為標準LangChain的文件格式,和Text splitters同樣用於準備RAG的資料。
  • Example selectors: 主要用於prompt中,便於實現Few-shot等Prompt Engineering,提供模型參考來優化輸出結果。

舉例來說,一個非常基本的開發架構中。首先,我們能夠過Document loaders和Text splitters將資料透過Embedding Model轉化成向量,並保存到Vector stores來準備給LLM使用。再來,我們就在透過Vector stores和Embedding Models來讓LLM取得資料。最後,我們還能結合其他的Tools,讓LLM擁有其他應用能力,如呼叫API, 執行function等功能。

這樣的架構中,我們不但能提供LLM特定的知識,還能讓他實際幫我們執行某些動作,這樣一來LLM的能力就不單單只限於“語言”,而是一個更多元的AI工具。

多平台與多模型的支持與便捷

component_quick_change

在當今快速發展的AI領域,不同的平台和模型層出不窮,為開發者帶來巨大的機遇與挑戰。LangChain在這方面展現出了卓越的優勢,為開發者提供一個統一且靈活的解決方案。

此外,LangChain的多平台和多模型支持不緊簡化了開發流成,還提高了開發過成中的適應性和可拓展性。這意味著開發者可以:

  1. 輕鬆切換不同的AI平台和模型,而無需大幅修改代碼。
  2. 快速適應市場上更新、更優秀、更便宜的AI模型,保持競爭力。
  3. 根據不同的需求和預算,可靈活選擇最適合的平台和模型組合。

LangChain v0.1 Integration

在比較早期的LangChain v0.1,這些對語言模型支持的開發主要來自於LangChain Community和少數供應商。

https://ithelp.ithome.com.tw/upload/images/20240924/201519528UNuUVRjzZ.png

LangChain v0.2 Integration

但隨著生成式AI的蓬勃發展,在LangChain v0.2中,大多平台供應商也開始自己主持這些套件,甚至提供LangChain在JS方面的支援。

https://ithelp.ithome.com.tw/upload/images/20240924/20151952z0eApHCnAp.png

總結

其優勢和價值主要體現在以下幾個方面:

  1. 全面的生態系統:LangChain提供了從數據處理到模型調用的完整解決方案,使開發者能夠快速構建複雜且多元的AI應用。
  2. 卓越的整合能力:通過統一的接口和豐富的組件,LangChain實現了對多種平台和模型的無縫支持,大大提高了開發效率。
  3. 靈活的可擴展性:開發者可以輕鬆地根據需求添加新的功能或切換不同的模型,使項目具有長期的適應性。
  4. 降低開發門檻:LangChain的設計理念使得即使是AI領域的新手,也能快速上手並開發出高質量的應用。
  5. 社區/供應商支持:活躍的開發者社區不斷為LangChain貢獻新的功能和優化,平台供應商也持續更新讓LangChain能使用到最完善的平台服務,確保了框架的持續進化。

本文內容基於個人學習、交流與實踐經驗,並非專門研究生成式 AI 或領域專家。若有任何問題或內容上的錯誤或建議,誠摯歡迎友善交流與指正,讓我們共同探討與成長。感謝您的閱讀與支持!


上一篇
Day8 進階Prompt工程策略
下一篇
Day 10 小總結
系列文
生成式 AI之亂—從概念到實踐的LLM開發生態探索12
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言