今天的文章中，我會介紹四個建構時主要使用的套件，目標是要建立利用 Ollama 和 RAG 架設的問答系統。
1. LangChain
LangChain 是一個專為大型語言模型應用程序開發而設計的框架，它提供了豐富的功能來幫助我們簡化開發過程。它的主要特點包括連接不同的模型和數據源，使開發者能夠快速構建複雜的應用。
2. ChromaDB
ChromaDB 是一個用於存儲向量的數據庫，它可以有效地處理和檢索高維數據，對於需要查詢相似度的問答系統來說非常重要。使用 ChromaDB，您可以輕鬆地管理模型生成的嵌入，從而提高查詢的準確性。
3. Ollama
Ollama 是一個大型語言模型的載入工具，幫助我們在本地環境中輕鬆加載和使用不同的模型。它使得使用各種語言模型變得簡單方便，適合我們的數據問答應用。
4. Gradio
Gradio 是一個低代碼的前端開發組件，讓開發者能夠快速創建用戶界面，以便與他們的機器人進行互動。這用於展示我們的問答系統。
iThome鐵人賽
看影片追技術