在本地語言模型越來越壯大的今天,語言模型「本地化」勢必成了個人與企業的趨勢,本系列將教大家如何從部屬自己的本地語言模型與 RAG 技術,並且將其利用在自己的專案中。
OK,昨天的介紹比較像是試水溫(不要打我),今天來講講幾個元件的互動效果 Button 屬性 名稱 型別 value str | Callable...
有了前端的工具,那也不能少了能幫助我們讀取並且應用的文字生成工具 text-generation-webui,這專案前端頁面也是使用 Gradio 去建構的 安...
前一天講了 text-generation-webui,今天來講另一個也是拿來做文字生成工作的工具,Ollama 這次為何要使用這個呢,其原因也是我覺得 Ol...
LangChain 是開放原始碼的架構,可根據大型語言模型 (LLM) 打造應用程式。LLM 是針對大量資料預先訓練的大型深度學習模型,可以對使用者查詢生成回...
在使用 LLM 工具前,一定都要給模型一個「指示」,這個指示會影響模型最終的輸出,例如要求模型將文字輸出格式限制成 Json 或者 Markdown 語法,或者...
Parser 若想要將模型的輸出轉換成程式可用的資料型態,我們可以用 Langchain 的 StructuredOutputParser 的方法去幫我們達成,...
「When the going gets tough, the tough get going.」 來到第 17 天,不免俗也讓自己休息一下,遇到挑戰也不要灰心...
前面的單元都屬於小兒科,再來就得認真刻我們的前端頁面了 這邊要先來刻的是,RAG 的核心 -- 資料檢索,所以我們要先來刻處理文件的頁面 首先是主頁的部分,我們...
前一天將檔案上傳上向量資料庫後,我們需要有一個聊天的頁面,為此我們須需要額外的前端頁面 至於設計嘛,先能用就好,總之先做一個像聊天室的介面吧 ./chat_...
說實在,若想使用上傳檔案以及聊天功能,一直改程式碼也有點白癡,所以這時可以用 Gradio 的分頁功能,也就是 Tab,其具體實現方法就是把寫好的不同頁面,整合...