Open WebUI

开源的本地 LLM Web 界面，支持 Ollama 和 OpenAI 兼容 API。提供类 ChatGPT 的交互体验，可完全离线运行，是本地部署大模型的首选前端。

核心功能

功能	说明
多模型管理	同时连接 Ollama 和 OpenAI 等多个后端
对话历史	本地持久化，支持搜索和分类
RAG	上传文档，对话时自动检索相关内容
多模态	支持图片输入（视觉模型）
模型市场	一键拉取 Ollama 模型库中的模型
用户管理	多用户权限控制，适合团队共享
Prompt 管理	保存和复用常用提示词
函数调用	支持工具调用和自定义函数

Docker 部署

仅 Ollama 后端

docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

同时连接 OpenAI

docker run -d \
  -p 3000:8080 \
  -e OPENAI_API_KEY=sk-xxx \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

Docker Compose

services:
  ollama:
    image: ollama/ollama
    ports:
      - "11434:11434"
    volumes:
      - ollama:/root/.ollama
 
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
      - OPENAI_API_KEY=sk-xxx
    volumes:
      - open-webui:/app/backend/data
    depends_on:
      - ollama
 
volumes:
  ollama:
  open-webui:

访问：http://localhost:3000

连接本地模型（Ollama）

# 拉取模型
ollama pull llama3.2
ollama pull qwen2.5:7b
ollama pull deepseek-r1:7b
ollama pull nomic-embed-text    # Embedding 模型

拉取后在 OpenWebUI 设置 → 模型 中即可看到模型列表。

RAG 配置

设置 → 文档
├── 向量数据库：内置 ChromaDB（默认）
├── Embedding 模型：推荐 nomic-embed-text（本地）
├── 分块大小：1500
└── 检索数量：Top-K = 5

在对话框点击 + 上传 PDF/TXT/MD 文件，或在设置中创建知识库，对话时自动检索相关段落。

主要环境变量

变量	说明
`OLLAMA_BASE_URL`	Ollama 服务地址
`OPENAI_API_KEY`	OpenAI 或兼容 API 密钥
`OPENAI_API_BASE_URL`	自定义 API 地址
`WEBUI_SECRET_KEY`	会话加密密钥
`DEFAULT_USER_ROLE`	新用户默认角色（pending/user/admin）
`ENABLE_SIGNUP`	是否允许注册（true/false）

连接第三方兼容 API

在 设置 → 连接 → OpenAI 兼容 中添加：

服务	Base URL
DeepSeek	`https://api.deepseek.com/v1`
Groq	`https://api.groq.com/openai/v1`
Moonshot	`https://api.moonshot.cn/v1`
本地 vLLM	`http://localhost:8000/v1`

知识仓库

探索

OpenWebUI