iT邦幫忙

2025 iThome 鐵人賽

DAY 8
0
AI & Data

「30 天打造 Discord AI 助手:結合本地 LLM 與 IoT 的智慧生活」系列 第 8

Day 8:什麼是 Open WebUI?特色與應用場景介紹

  • 分享至 

  • xImage
  •  

在第一週,我們已經能夠:

  • 在本地運行 Ollama
  • 下載並測試多個模型(LLaMA 3、Gemma 3 4B 等)
  • 透過 API 與模型互動

但目前的操作方式主要還是:

  • 使用 CLI(ollama run ...
  • 用 API 測試 curl 或 Python

這樣雖然功能完整,但使用體驗並不好。

👉 這就是 Open WebUI 登場的時候!


🔎 什麼是 Open WebUI?

Open WebUI 是一個開源的 Web 前端介面,用來與本地 LLM 互動。

它的定位類似 ChatGPT 網頁版,但特色在於:

  • 支援多種模型後端(Ollama、LM Studio、OpenAI API、vLLM…)
  • 可自訂工作區(不同任務使用不同模型/設定)
  • 支援 Plugins / Extensions(例如:檔案上傳、工具調用)
  • 多人使用模式(可以當成小型伺服器,讓多人同時使用)

換句話說,它就是一個「開源版的 ChatGPT 網頁」,可以連接到你的本地 LLM。


🖥️ 介面特色

1. ChatGPT 風格對話框

  • 輸入問題 → 模型回答
  • 支援 Markdown、程式碼區塊高亮
  • 支援長對話上下文

2. 模型管理

  • 在介面中切換不同模型
  • 直接下拉選單選擇(例如 llama3, gemma:4b
  • 可以設定預設模型

3. 使用者體驗

  • 支援 深色 / 淺色模式
  • 支援多標籤對話(像瀏覽器分頁一樣)
  • 輸出可直接複製 / 下載

4. 進階功能

  • 檔案上傳(例如丟一個 PDF,請模型總結內容)
  • 多用戶管理(適合多人共用一台伺服器)
  • 插件化架構 → 可以擴展新功能

📊 為什麼要用 Open WebUI?

  1. 更好的互動體驗
    • 終端機互動很不方便,Web UI 才是日常使用的最佳方式。
  2. 多模型管理
    • 例如:程式碼問題用 LLaMA,創意寫作用 Gemma,只要一鍵切換。
  3. 未來整合
    • 後面我們要把它與 Discord Bot / IoT 串接,Web UI 是一個很好的控制中樞。

⚙️ 系統需求

在安裝前,我們先看一下需求:

  • Docker(我們已經在 Day 2 安裝好了 ✅)
  • RAM:至少 4GB(WebUI 本身不吃太多,主要還是模型)
  • 磁碟:至少 2GB(儲存介面、插件)

基本上,只要你能跑 Ollama,就能跑 Open WebUI。


✅ 成果展示(今日目標)

今天我們雖然還沒安裝,但已經:

  1. 理解了 Open WebUI 的定位(本地 LLM 的「ChatGPT 網頁介面」)
  2. 探討了它的功能與應用場景
  3. 確認了安裝需求(我們的環境已經準備就緒)

上一篇
Day 7:第一週成果回顧與整合展示
下一篇
Day 9:透過 Docker 安裝與啟動 Open WebUI
系列文
「30 天打造 Discord AI 助手:結合本地 LLM 與 IoT 的智慧生活」10
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言