iT邦幫忙

0

[求解] AnythingLLM 在 docker 環境中, 開啟 Web Search 失敗

  • 分享至 

  • xImage

請教網友:
AnythingLLM 在 Docker 環境中,若開啟 Web Search 功能最後網頁都會出錯
https://ithelp.ithome.com.tw/upload/images/20250327/20093576qmzh2bCgQm.jpg
docker logs 錯誤如下:
https://ithelp.ithome.com.tw/upload/images/20250327/200935764lS5MsDYcM.jpg

docker-compose.yml
==============================================================
# version: '3.8'
services:
  anythingllm:
    image: mintplexlabs/anythingllm
    container_name: anythingllm
    ports:
      - "3014:3001"
    volumes:
      - ./data:/app/server/storage
      - ./env.txt:/app/server/.env
    environment:
      - STORAGE_DIR=/app/server/storage
    cap_add:
      - SYS_ADMIN                           # 增加管理權限
    extra_hosts:
      - "host.docker.internal:host-gateway" # 允許容器訪問主機的 localhost
    restart: unless-stopped
==============================================================

無論使用 DuchGo 或者 SearXNG 都不行
https://ithelp.ithome.com.tw/upload/images/20250327/20093576G5GBDOPj3U.jpg
我 LLM 是使用Ollama 的deepseek-r1-ablite (4096)
https://ithelp.ithome.com.tw/upload/images/20250327/20093576waQoSpFYNe.jpg
請問網友有無在 docker 環境中能成功使用 web search 做資料來源.若不啟用則沒問題,但結果都是錯的.
敬請指導一二

圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

1 個回答

0
haward79
iT邦好手 3 級 ‧ 2025-04-04 12:43:34

我的環境設定如下,供參

services:
  anyllm:
    image: mintplexlabs/anythingllm
    ports:
      - "3001:3001"
    volumes:
      - "./anyllm:/app/server/storage"
      - "./anyllm-env:/app/server/.env"
    environment:
      - STORAGE_DIR=/app/server/storage
    cap_add:
      - SYS_ADMIN
  
  ollama:
    image: ollama/ollama
    ports:
      - "11434:11434"
    volumes:
      - "./ollama:/root/.ollama"
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]
tree -L 1 
# .
# ├── anyllm
# ├── anyllm-env
# ├── compose.yaml
# └── ollama
#
# 3 directories, 2 files

https://ithelp.ithome.com.tw/upload/images/20250404/20131956HdJwyZYb80.png

https://ithelp.ithome.com.tw/upload/images/20250404/20131956dC6vcX4yi4.png

https://ithelp.ithome.com.tw/upload/images/20250404/20131956BejloarILU.png

WebSearch 看起來有正常工作

當然有時候還是看運氣,還有 prompt 怎麼下
(麥塊餐應該不可能被納入訓練資料中吧,呵呵
https://ithelp.ithome.com.tw/upload/images/20250404/20131956qCJLihHZlL.png

我要發表回答

立即登入回答