Ollama 是什麼?

　　Ollama 是羊駝，是一個輕量化的本地 LLM 運行框架，支援 macOS、Windows、Linux，他能直接下載並執行開源模型，如 Llama2、Gemma 等開源模型，同時管理模型版本與快取。

安裝 Ollama

我們這邊用 llama3:8b 的模型做示範，首先先在官網 https://ollama.com 下載並安裝對應版本後，終端機輸入：

ollama run llama3

第一次執行會自動下載模型（約4.7 GB），下載完後就能直接透過終端機聊天了！

如果想查看已下載的清單，可使用：

ollama list

OpenWebUI 介紹

　　OpenWebUI 是一個開源的網頁前端，專為 Ollama 設計，能讓使用者透過瀏覽器與模型互動，不再需要用 CLI 的方式操作，介面風格類似 ChatGPT，支援聊天歷史、角色建立、Prompt 模板、語音輸入等功能，也能連接多個模型進行切換。

安裝 OpenWebUI

利用 docker 安裝：

docker run -d -p 3000:8080 --name openwebui --restart always ghcr.io/open-webui/open-webui:main

啟動後開啟瀏覽器連結到 http://localhost:3000
一開始會要求輸入帳號、信箱、mail

開始與本地模型聊天

　　就像 GPT 的介面一樣，左邊也會有像 GPT 一樣的歷史紀錄，可以從左上角「選擇模型」來選擇我們剛剛用 Ollama 下載的模型，就可以開始聊天囉！

使用 OpenAI API Key

　　OpenWebUI 也有支援連線 OpenAI API Key，可以在同一個介面中同時使用 GPT-5 等其他雲端模型，這意味著你能在同一平台上自由切換「本地模型」與「雲端模型」，充滿彈性！