Featured image of post 用 VPS 自托管 LiteLLM AI 网关：统一管理 OpenAI、Claude、Gemini API 成本与密钥
VPS 主机

用 VPS 自托管 LiteLLM AI 网关：统一管理 OpenAI、Claude、Gemini API 成本与密钥

面向独立开发者和小团队的 LiteLLM AI Gateway 自托管方案：用一台 $5-$10/月 VPS 统一转发多家 LLM API，做密钥隔离、预算上限、日志审计和故障切换。

导语：当 AI 应用从 demo 变成产品，第一件事不是换 GPU，而是管住 API

很多出海独立开发者做 AI SaaS 时，早期会直接把 OpenAI、Claude、Gemini、DeepSeek 等 API Key 写进后端环境变量。demo 阶段没问题，但一旦接入用户、跑定时任务、让 agent 24/7 自动执行，问题会很快出现：

  • 不同模型的调用成本看不清，月底账单突然失控；
  • 多个项目共用同一把 API Key，泄露后无法定位来源；
  • 某家模型接口临时不可用，业务直接挂掉；
  • 给团队成员开放模型能力时，很难限制额度和权限；
  • 想在 OpenAI、Claude、Gemini、DeepSeek 之间切换，却要改一堆业务代码。

这时你需要的不是一台昂贵 GPU VPS，而是一个轻量的 LLM API Gateway。LiteLLM Proxy 正好适合这个场景：它可以把多家大模型 API 统一成 OpenAI-compatible endpoint，让你的应用只连一个地址，同时在网关层做密钥、预算、日志、限速和 fallback。

本文的核心建议很简单：用一台 $5-$10/月的 VPS 自托管 LiteLLM 网关，把模型调用从“散乱密钥”升级成“可审计、可控成本、可切换供应商”的基础设施。

说明：本文包含 VPS 服务商 affiliate 链接。你通过链接购买，我们可能获得佣金，但不会影响你的价格。我们只推荐适合实际部署场景的海外服务。

适合谁：LiteLLM 网关不是给所有人用的

这套方案尤其适合以下几类人：

  1. AI SaaS 独立开发者
    你有一个 Next.js / FastAPI / Laravel 后端，需要调用多家 LLM API，并希望未来可以快速切换模型供应商。

  2. 小团队内部 AI 平台
    团队成员都要用 AI，但不想把主 API Key 分发给每个人，希望按人、按项目生成虚拟 key，并设置月度预算。

  3. 自动化 agent / n8n / Dify 用户
    你的工作流会定时触发 LLM 调用，最怕“循环调用烧钱”。网关层预算上限可以作为最后一道保险。

  4. 做海外产品的工程团队
    你需要在美区、欧洲、亚洲节点之间选择更低延迟的入口，并希望把模型调用日志留存在自己服务器上。

不适合的人也很明确：

  • 只是偶尔个人聊天，用 ChatGPT / Claude 官网就够；
  • 想在 VPS 上本地跑 7B/14B 模型推理，应该看 Ollama / vLLM / GPU 服务器，不是 LiteLLM 网关；
  • 没有任何后端服务，只有静态网站，也暂时用不上这套架构。

方案对比表：三档 VPS 怎么选

LiteLLM Proxy 本身并不重，真正吃资源的是日志数据库、并发连接和监控组件。下面是更贴近实际部署的选型表：

方案RackNerd 年付 VPSHostinger VPSVultr Cloud Compute
推荐场景个人项目、低并发 AI 工具、成本敏感小团队、需要面板和长期稳定运维产品化 API 网关、需要全球节点和弹性扩容
建议配置1-2 vCPU / 1-2GB RAM / 20GB+ NVMe2 vCPU / 4GB RAM / 50GB+ NVMe1-2 vCPU / 2-4GB RAM / 55GB+ NVMe
预算区间通常约 $1-$4/月（多为年付促销）通常约 $5-$10/月起，长期套餐更划算常见入门云服务器约 $5-$12/月
优势便宜，适合先跑起来验证管理面板友好，适合不想折腾底层运维按小时计费、节点多、扩容快
注意点促销库存变化快，别把唯一生产环境放在最低配续费价和首购价可能不同，要看清周期同规格不一定最便宜，但灵活度高
推荐链接查看 RackNerd VPS查看 Hostinger VPS查看 Vultr Cloud

我的实际建议：

  • 只是给个人项目或 demo 做 API 转发：选 RackNerd 年付 VPS，把成本压到最低；
  • 有 2-5 个团队成员、要长期使用：选 Hostinger 2-4GB RAM 档位，运维体验更省心；
  • 已经有线上用户、重视节点与弹性：选 Vultr，用美西/美东/欧洲节点按需扩容。

实际部署架构：一台 VPS 上跑哪些东西

推荐的最小生产架构如下：

用户 / 应用后端 / n8n / Dify
        ↓
Cloudflare DNS + HTTPS
        ↓
Nginx / Caddy 反向代理
        ↓
LiteLLM Proxy
        ↓
PostgreSQL（日志、虚拟 key、预算）
        ↓
OpenAI / Anthropic / Google / DeepSeek / Groq 等模型 API

你不需要把所有东西都拆成多台机器。对大多数独立开发者来说，一台 2GB 或 4GB RAM VPS 已经足够跑：

  • LiteLLM Proxy 容器；
  • PostgreSQL；
  • Nginx 或 Caddy；
  • Uptime Kuma / Netdata 这类轻量监控；
  • 定期备份脚本。

关键是不要把 LiteLLM 当成“随便起一个 Docker 容器”就完事。它会成为你所有模型调用的入口，所以至少要做好：

  1. 后台管理地址不公开；
  2. 对外只暴露 OpenAI-compatible API endpoint；
  3. 每个项目使用独立 virtual key；
  4. 设置每日或每月预算上限；
  5. PostgreSQL 数据定期备份；
  6. 反向代理层启用 HTTPS 和基础限速。

选型建议：不同阶段用不同 VPS，不要一步到位烧钱

阶段 1：个人项目验证期

如果你只是想验证一个 AI 工具，例如：

  • 给自己的产品接入 Claude / GPT / Gemini；
  • 让 n8n 工作流统一走一个 endpoint；
  • 给几个内部脚本生成独立 key；
  • 记录每个项目用了多少 token。

可以从 RackNerd 年付 VPS 开始。LiteLLM 不负责模型推理，主要做转发和管理，1GB RAM 也能跑起来。建议关闭不必要服务，只保留 LiteLLM + SQLite 或轻量 PostgreSQL；如果后续日志量变大，再迁移到 2GB+。

购买入口：RackNerd VPS 促销页

阶段 2：小团队稳定使用期

如果有团队成员使用，或者你要把它接到真实产品后端，建议直接上 2 vCPU / 4GB RAM。原因不是 LiteLLM 很吃内存，而是你会逐步加上：

  • PostgreSQL；
  • 管理后台；
  • 日志查询；
  • 监控；
  • 自动备份；
  • 反代和安全组件。

这时 Hostinger 的优势是面板、快照、基础运维体验更友好，适合“不想每天 SSH 进服务器排错”的人。

购买入口：Hostinger VPS

阶段 3：线上产品生产期

如果你的 AI 应用已经有付费用户，建议把成本重点放在“可恢复”和“可迁移”上，而不是只看最低月费。

Vultr 的优势是节点多、按小时计费、升级方便。你可以先在一个区域跑主网关，再用另一个区域做备用，或者给海外用户选择更近的 API 入口。

购买入口：Vultr Cloud Compute

成本估算：VPS 不是大头，真正要管的是 token

LiteLLM 网关的服务器成本很低，真正容易失控的是模型调用费。下面按常见场景估算：

场景VPS 成本模型 API 成本总体判断
个人脚本 + 少量 agent$1-$5/月$5-$20/月RackNerd 足够，重点设置月度预算
小团队内部 AI 工具$5-$10/月$30-$200/月Hostinger 更稳，建议按成员分 key
AI SaaS 早期产品$6-$24/月$100-$1000+/月Vultr/Hostinger 均可，必须做日志和限速
高并发生产网关$24+/月远高于服务器费需要多节点、队列、缓存和专门告警

很多人会纠结“选 $3 VPS 还是 $6 VPS”，但如果没有预算上限，一个死循环 agent 一晚就能烧掉几十美元 API 费。因此这套架构最重要的价值不是省下几美元服务器费，而是：

  • 每个项目单独 key，泄露可立即吊销；
  • 每个 key 设置预算；
  • 按模型、项目、用户查看消耗；
  • 高价模型失败时自动 fallback 到低价模型；
  • 用便宜模型处理摘要、分类、草稿，用贵模型处理关键推理。

推荐配置：LiteLLM 网关的 VPS 基线

最低可用配置

  • 1 vCPU
  • 1GB RAM
  • 20GB SSD/NVMe
  • Ubuntu 22.04 / 24.04
  • Docker + Docker Compose
  • SQLite 或单容器 PostgreSQL

适合个人测试，但不建议放生产 API。

推荐生产入门配置

  • 2 vCPU
  • 2-4GB RAM
  • 40GB+ NVMe
  • Ubuntu LTS
  • Docker Compose
  • PostgreSQL 独立 volume
  • Caddy / Nginx HTTPS
  • 每日数据库备份
  • Uptime Kuma 外部监控

这是多数独立开发者最舒服的配置区间，月费通常也还在 $5-$12 左右。

更稳的生产配置

  • 主网关：Vultr / Hostinger 2-4GB RAM 节点；
  • 备份网关：另一个区域的轻量 VPS；
  • 数据：PostgreSQL 每日备份到对象存储；
  • DNS：Cloudflare 做低 TTL，出问题时切换；
  • 应用端：保留备用 base_url。

安全与运维建议：AI 网关最怕“裸奔”

LiteLLM 的后台和 master key 一定不能随便暴露。建议至少做到这些：

  1. 管理后台只允许固定 IP 或 VPN 访问
    如果你用 Cloudflare Tunnel，可以把 admin 路径放到 Access 后面。

  2. 不要让业务服务使用 master key
    每个产品、环境、团队成员都生成独立 virtual key。

  3. 给每个 key 设置预算和过期时间
    测试 key 尤其要短周期过期，避免忘记关闭。

  4. 限制单 IP 请求频率
    在 Nginx / Caddy / Cloudflare 层做基础 rate limit，防止 key 泄露后被刷爆。

  5. 日志保留周期要合理
    记录成本和错误即可，不要长期保存敏感 prompt。涉及用户隐私的产品，应避免记录完整输入输出。

  6. 定期导出配置和数据库
    服务器可以重装，virtual key、预算配置和成本记录丢了才麻烦。

推荐结论：我会怎么选

如果你是第一次自托管 LiteLLM，我会按下面路线走：

  • 最低成本验证：RackNerd 年付 VPS + LiteLLM + SQLite/PostgreSQL，先把 1-2 个项目接进来；
  • 稳定运行：Hostinger 2-4GB RAM VPS，跑 LiteLLM + PostgreSQL + 监控 + 备份；
  • 产品化扩展：Vultr 多区域节点，把 LiteLLM 当成 AI API 层的基础设施来管理。

最终不要只盯着 VPS 月费。LiteLLM 网关的真正价值是把 AI API 调用变成可治理的系统：谁在用、用了多少、能不能停、坏了能不能切换。对任何认真做 AI 产品的人来说，这比省 $2 服务器费重要得多。

FAQ

LiteLLM 网关需要 GPU VPS 吗？

不需要。LiteLLM Proxy 主要做 API 转发、鉴权、日志和预算控制，不在本机跑模型推理。普通 CPU VPS 就可以。如果你要本地跑大模型，才需要考虑 GPU 或更高内存机器。

1GB RAM VPS 能跑 LiteLLM 吗？

能跑，但只建议个人测试或低并发场景。生产环境更建议 2GB 起步，团队使用建议 4GB，这样 PostgreSQL、监控和反向代理也有余量。

LiteLLM 可以替代 OpenAI API 吗？

它不是模型供应商，而是网关。你的应用仍然调用 OpenAI-compatible API，但背后可以路由到 OpenAI、Anthropic、Google、DeepSeek 等不同供应商。

自托管 LiteLLM 会不会增加延迟？

会增加一层网络转发，通常是几十毫秒级别。相比模型本身的生成耗时，这点延迟通常可以接受。选择离用户和模型供应商都较近的 VPS 节点，可以降低额外延迟。

用 RackNerd、Hostinger、Vultr 哪个更适合？

个人验证优先 RackNerd，小团队长期用优先 Hostinger，生产产品或多区域部署优先 Vultr。核心判断标准是：你更需要低成本、易运维，还是弹性和节点覆盖。

是否可以把 LiteLLM 和 n8n / Dify 放同一台 VPS？

可以，但建议至少 4GB RAM。n8n、Dify、数据库和 LiteLLM 都放一起会增加内存压力；如果是生产环境，最好把数据库和核心应用分开，或者至少做好备份和监控。