摘要展示了 LangChain 與 LangGraph 的串流功能,旨在說明如何以分段式輸出和事件串流的方式提升基於大型語言模型 (LLM) 應用程式的效能。...
前言
前面講完linux的vLLM安裝使用,這次來介紹Windows版本的使用方式,筆者之前剛好借到一台windows電腦+RTX 4060 Ti * 2,就用...
前言:為什麼要用 No Code 工具
前面十幾天的學習主要是為了幫助你掌握 LLM 開發的基本概念和技術。程式碼的方式來實作,目的是讓你更好地理解 LLM 的...
Ragas介紹
RAGAS(Retrieval-Augmented Generation Assessment System)是一個專門用來評估RAG(Ret...
前言
AI技術的廣泛應用,AI聊天機器人已經深入我們的日常生活,不管是在客服、教學輔助,還是日常對話中,這些機器人都能快速回應,提供所需的協助和資訊。今天,我們...
前言
我們在前十天嘗試了很多操作模型的方法,包含讓模型使用工具、用 RAG 提高答案生成的精確度、用 Ollama 在本地跑模型等等等,但這些都不是「訓練」一個...