如果你用过 ChatGPT Plus（每月 $20），你可能已经习惯了流畅的对话体验、丰富的插件生态和可靠的响应速度。但你有没有想过，同样的体验可以花不到 $5/月在自己的 VPS 上跑出来，而且所有数据完全私有？

2026 年，Open WebUI + Ollama 的组合已经成熟到可以替代大多数日常 AI 交互场景。Open WebUI 提供类 ChatGPT 的用户界面，Ollama 负责本地模型推理，两者通过 Docker Compose 一键部署在任意 VPS 上。

本文将手把手教你从零搭建这套系统，并对比不同 VPS 提供商的成本和性能表现。

Open WebUI + Ollama 是什么组合？

这个组合的核心优势在于：你拥有完整的控制权。模型选择、数据留存、插件安装、知识库挂载——一切都在你的 VPS 上完成，无需经过任何第三方服务。

硬件需求：$5/月的 VPS 够用吗？

对于纯 CPU 推理（Qwen2.5-7B、Llama 3.2-3B 等量化模型），一台基础 VPS 完全可以胜任：

我们的推荐起点：RackNerd 的 $2.67/月入门 VPS（2 vCPU / 1GB RAM / 25GB NVMe），搭配 Hostinger VPS Pro（4 vCPU / 8GB RAM）作为进阶选择。两者都支持按月付费，没有隐藏费用。

RackNerd 入门 VPS 提供全球多个数据中心（包括洛杉矶、达拉斯、阿姆斯特丹），NVMe SSD 保证磁盘 IO 性能，适合首次部署。

Hostinger VPS Pro 则提供更充裕的内存配置，8GB RAM 足以流畅运行 13B 参数模型的 4-bit 量化版本。

完整部署步骤

第一步：准备 VPS 环境

选择 Debian 12 或 Ubuntu 24.04 作为操作系统。SSH 登录到你的 VPS：

ssh root@your-vps-ip

安装 Docker 和 Docker Compose：

curl -fsSL https://get.docker.com | sh
systemctl enable --now docker
docker compose version

第二步：创建项目目录

mkdir -p ~/open-webui && cd ~/open-webui

第三步：编写 docker-compose.yml

version: "3.8"

services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    restart: unless-stopped
    ports:
      - "11434:11434"
    volumes:
      - ollama-data:/root/.ollama
    # 如果有 GPU，取消下面这行的注释
    # deploy:
    #   resources:
    #     reservations:
    #       devices:
    #         - driver: nvidia
    #           count: 1
    #           capabilities: [gpu]

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: unless-stopped
    ports:
      - "8080:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
      - WEBUI_SECRET_KEY=$(openssl rand -hex 32)
    volumes:
      - open-webui-data:/app/backend/data
    depends_on:
      - ollama

volumes:
  ollama-data:
  open-webui-data:

第四步：拉取模型并启动

# 先启动 Ollama 容器
docker compose up -d ollama

# 等待 Ollama 就绪后拉取模型（以 qwen2.5:7b 为例）
docker exec -it ollama ollama pull qwen2.5:7b

# 启动 Open WebUI
docker compose up -d open-webui

第五步：访问并配置

打开浏览器访问 http://your-vps-ip:8080，注册管理员账户。在设置中将 Ollama API 地址指向 http://your-vps-ip:11434。

进阶配置：让系统真正可用

多模型切换

Open WebUI 支持同时连接多个模型。除了本地 Ollama，还可以通过 LiteLLM 作为统一 API 网关接入远程商业模型：

# docker-compose.yml 中添加 LiteLLM 作为统一 API 网关
litellm:
  image: ghcr.io/berriai/litellm:main
  container_name: litellm
  restart: unless-stopped
  ports:
    - "4000:4000"
  volumes:
    - ./config.yaml:/app/config.yaml
  environment:
    - OPENAI_API_KEY=${OPENAI_API_KEY}

配置完成后，你可以在 Open WebUI 中同时使用本地 Qwen2.5 和远程 GPT-4o，根据任务复杂度自动切换。

RAG 知识库挂载

Open WebUI 内置文档上传和向量检索功能。将 PDF、Markdown、TXT 文件上传后，系统会自动建立向量索引，实现基于你私有文档的问答：

1. 进入 Open WebUI → Settings → Documents
2. 上传文件（支持 PDF、DOCX、MD、TXT 等格式）
3. 在对话中选择对应的知识库
4. 系统会自动检索相关片段并生成回答

这对于企业内部知识库、个人笔记整理、学术论文检索等场景非常实用。

Cloudflare Tunnel 安全暴露

如果你的 VPS 没有公网 IP（很多廉价 VPS 只给内网 IP），可以用 Cloudflare Tunnel 安全暴露服务：

# 安装 cloudflared
wget https://github.com/cloudflare/cloudflared/releases/latest/download/cloudflared-linux-amd64.deb
dpkg -i cloudflared-linux-amd64.deb

# 认证并创建隧道
cloudflared tunnel login
cloudflared tunnel create open-webui

# 配置路由
cloudflared tunnel route dns open-webui ai.yourdomain.com

# 启动隧道
cloudflared tunnel run open-webui

配合 Cloudflare 的免费 SSL 证书和 DDoS 防护，你的自托管 AI 服务就有了企业级的安全保障。

性能调优：让慢速 VPS 也能流畅对话

CPU 推理优化

# Ollama 启动参数优化
OLLAMA_NUM_PARALLEL=2 OLLAMA_MAX_LOADED_MODELS=1 \
  ollama serve &

• OLLAMA_NUM_PARALLEL：并发请求数，2-4 为宜
• OLLAMA_MAX_LOADED_MODELS：同时加载的模型数，设为 1 避免内存溢出

模型选择建议

对于 2GB RAM 的入门 VPS，推荐使用 Llama 3.2-3B 或 Phi-3-mini-3.8B。对于 8GB+ RAM 的 VPS，Qwen2.5-7B 是目前中文效果最好的选择。

内存不足时的解决方案

# 使用 swap 扩展虚拟内存
fallocate -l 4G /swapfile
chmod 600 /swapfile
mkswap /swapfile
swapon /swapfile
echo '/swapfile none swap sw 0 0' >> /etc/fstab

Swap 虽然比物理内存慢，但在推理时可以作为缓冲，避免 OOM kill。

成本对比：自托管 vs 订阅服务

以 RackNerd 的 $2.67/月 VPS 为例，一年仅需 $32 即可拥有不限次数的 AI 对话能力。即使升级到 Hostinger VPS Pro 的 $4.99/月，也仅为 ChatGPT Plus 的四分之一。

常见故障排查

问题 1：模型加载缓慢

原因：磁盘 IO 瓶颈或模型文件过大。

解决：

# 检查磁盘类型
lsblk -d -o name,rota,tran | head -5

# 确保使用 NVMe SSD
# 如果是 HDD，将模型文件复制到 tmpfs
mount -t tmpfs -o size=4G tmpfs /tmp/ollama-models
export OLLAMA_MODELS=/tmp/ollama-models

问题 2：Open WebUI 无法连接 Ollama

原因：容器间网络不通或 API 地址配置错误。

解决：

# 验证 Ollama API 可达
docker exec open-webui curl -s http://ollama:11434/api/tags

# 如果返回空，检查容器日志
docker logs ollama
docker logs open-webui

问题 3：显存不足（GPU 场景）

原因：模型量化级别过高或并发请求过多。

解决：

# 降低并发数
OLLAMA_NUM_GPU=0 OLLAMA_MAX_LOADED_MODELS=1 ollama serve

# 或者切换到更低量化级别的模型
ollama pull qwen2.5:7b-q3_K_S

何时需要考虑升级？

对于绝大多数个人用户和小型团队，$5-$10/月的 VPS 配置已经足够应对日常 AI 交互需求。

总结

Open WebUI + Ollama 是目前自托管 AI 聊天的最佳组合之一。它在 2026 年已经成熟到可以替代大多数 ChatGPT 的日常使用场景，同时提供了订阅服务无法比拟的数据隐私和自定义自由度。

核心要点回顾：

• 一台 $2.67/月的 RackNerd VPS 即可启动完整系统
• Qwen2.5-7B + 8GB RAM 是当前性价比最高的配置组合
• Cloudflare Tunnel 解决了无公网 IP 的暴露问题
• RAG 知识库功能让私有文档问答成为可能
• 通过 LiteLLM 可以无缝接入商业模型作为补充

如果你正在寻找 ChatGPT 的平价替代方案，或者希望在自己的基础设施上构建 AI 应用，这套组合值得认真考虑。

FAQ

Q: 需要 GPU 才能运行吗？ A: 不需要。Ollama 的 CPU 推理已经高度优化，Qwen2.5-7B 在 4 vCPU 上可以达到每秒 5-10 token 的生成速度，对话体验完全可用。

Q: 支持中文吗？ A: 完全支持。Qwen2.5 系列和 Llama 3.2 都对中文有出色的理解和生成能力。

Q: 可以多人使用吗？ A: 可以。Open WebUI 支持多用户注册和权限管理。但对于高并发场景，建议升级到更高配置的 VPS。

Q: 数据会泄露吗？ A: 不会。所有数据和模型都在你自己的 VPS 上运行，不经过任何第三方服务器。

Q: 如何备份？ A: 只需备份两个目录：ollama-data（模型文件）和 open-webui-data（用户数据、知识库、设置）。使用 rsync 或 borg 定期同步到远程存储即可。