昨天學了建立與儲存提示詞,今天要試試用Open WebUI上提供的Ollama模型。
Open WebUI上可以建立自己的模型,根據設定的模型功能描述與系統提示詞(如敘述模型角色特徵、可以給予使用者什麼樣的幫助等)即可建立模型。
進階設定參數可以根據溫度、上下文長度、最大token數等參數去做調整,使模型更完善。
這次只會使用到Open WebUI上提供的Ollama模型來進行對話,讓我們開始吧!
步驟一: 進入Open WebUI社群模型網站
跟昨天一樣可以從工作區進入設置模型的介面,接著點選【+】號進入網站
步驟二: 選擇欲使用之模型
若對模型沒什麼概念,網站上有各種不同功能的模型像是程式陪伴訓練、照片生成、分析等功能。
可以先瀏覽想使用的模型,再點進去按【get】做使用。
以下為Open WebUI模型瀏覽頁面:
點選欲使用模型,此例使用Mental Health assistant心靈健康模型來使用。可以在網頁上看到模型使用的語言模型以及系統提示詞,藉此了解模型功能。
步驟三: 在Open WebUI上開啟該模型
貼上Open WebUI本地端的URL(http://localhost:3000),並點選Import將模型匯入。
模型在Open WebUI上匯入之畫面。
點選【儲存並建立】即可成功將模型匯入。
步驟四: 使用模型進行對話
回到對話框,在左上角選擇模型的地方點選Mental Health assistant模型,輸入指令即可開始對話,也可以依照建議的提示詞進行對話。
成功進行對話的畫面如下 :)