想自建一个统一的大模型 API 网关?One-API 和 New-API 是目前最热门的两个开源方案。但自建真的适合你吗?这篇文章从实际部署经验出发,帮你做出正确选择。

为什么要搞 LLM API 网关?

如果你的团队在用多个大模型(GPT、Claude、DeepSeek),你一定遇到过这些问题:

  • 每个模型一套 API Key,管理混乱
  • 不知道团队每个月在 API 上花了多少钱
  • 某个模型挂了,整个功能跟着挂

LLM API 网关就是解决这些问题的:统一入口、统一计费、统一管理。

One-API:老牌开源方案

GitHub Star 15k+,由 JustSong 开发维护。

```bash docker run -d --name one-api -p 3000:3000 -v /data/one-api:/data justsong/one-api:latest ```

核心功能:渠道管理、用户管理、统一格式、计费统计。

踩坑

  1. 海外模型还是需要代理——One-API 本身不解决网络问题
  2. 高并发下性能下降明显,需要调优
  3. 版本升级可能破坏数据库结构

New-API:One-API 的增强分支

社区 Fork 版本,增加了 Midjourney 支持和更好的 UI。

功能 One-API New-API
基础渠道管理
Midjourney
在线充值 基础 更完善
UI 界面 经典 美化

选择建议:追求稳定选 One-API,需要 MJ 选 New-API。

自建的真实成本

项目 月费用
海外服务器 $10-20
域名+SSL $1
运维时间(按200元/小时) ¥1200-2400
合计 ¥1300-2600/月

"开源免费"只是软件免费,运维成本一点不低。

商业替代:Ofox.ai

维度 One-API 自建 Ofox.ai
部署时间 1-2 天 5 分钟
运维成本
海外模型 需自建代理 国内直连
故障处理 自己排查 平台保障

```python from openai import OpenAI client = OpenAI(api_key="your-ofox-key", base_url="api.ofox.ai/v1") response = client.chat.completions.create(model="gpt-4o", messages=[{"role": "user", "content": "你好"}]) ```

决策树

  • 有专职运维 + 数据安全要求极高 → One-API 自建
  • 没有运维 / 个人开发者 → Ofox.ai
  • 混合方案:核心业务自建 + Ofox.ai 作为备份

总结

方案 适合谁
One-API 有运维团队的企业
New-API 需要 MJ 或更好 UI
Ofox.ai 大多数开发者和团队

没有专职运维,不要自建。把时间花在产品开发上。


你在用 One-API 还是 New-API?评论区分享踩坑经历。


关于作者:码路飞,独立开发者,专注 AI 应用开发与模型调优。

作者:ofox
链接:https://juejin.cn/post/7604666872127799315
来源:稀土掘金
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐