上个月接了个外包项目,甲方要接 GPT-5 和 Claude Opus 4.6 做智能客服。预算紧,我第一反应是自己搭开源中转省钱。GitHub 上搜了一圈,one-api、new-api 这些项目 star 都上万了,看着挺香。结果折腾了三天,半夜被告警短信吵醒两次,才意识到"免费"这俩字的代价有多大。

后来又试了几个付费的 API 聚合平台,踩了不少坑,也找到了几个靠谱的。这篇文章就把实测数据摊开聊聊——开源自建和付费中转,到底差在哪,什么场景该选哪个。

评测维度:不扯虚的,就看这 5 项

搞 API 中转,核心诉求无非这几个:

  1. 部署成本:花多少钱、花多少时间能跑起来
  2. 延迟表现:首 Token 时间(TTFT)和整体响应速度
  3. 稳定性:7×24 跑一周,挂几次、丢几个请求
  4. 模型覆盖:能调多少家的模型,切换方不方便
  5. 维护成本:出了问题谁来修,Key 轮询/余额告警这些有没有

我拿了 4 个方案做横向对比:

  • 方案 A:one-api 自建(GitHub 开源,自己部署)
  • 方案 B:new-api 自建(one-api 的活跃 fork)
  • 方案 C:某付费中转站(名字就不说了,圈子里用的人挺多)
  • 方案 Dofox.ai 聚合平台

测试环境:2C4G 云服务器(方案 A/B 部署用),测试脚本用 Python 跑 1000 次请求,模型统一选 GPT-5,prompt 固定 200 token。

评测结果天梯图

先直接上表:

维度 one-api 自建 new-api 自建 某付费中转站 ofox.ai
部署耗时 2-4 小时 2-4 小时 注册即用(5 分钟) 注册即用(5 分钟)
服务器成本 ¥50-100/月 ¥50-100/月 ¥0 ¥0
平均延迟(TTFT) 800-1200ms 750-1100ms 400-600ms ~300ms
7 天可用率 96.2% 97.1% 99.3% 99.8%
模型数量 取决于你配的 Key 取决于你配的 Key 20+ 50+
Key 轮询/负载均衡 ✅ 需手动配 ✅ 需手动配 ✅ 内置 ✅ 内置
余额告警 ❌ 需自己写 ✅ 基础支持
多协议兼容 OpenAI 协议 OpenAI 协议 OpenAI 协议 OpenAI/Anthropic/Gemini 三协议
付费方式 自备各家 Key 自备各家 Key 充值制 按量付费,支持支付宝/微信
半夜被叫醒次数 2 次 1 次 0 次 0 次

最后一行是真实经历,不是开玩笑。

第一梯队:付费聚合平台

如果你是个人开发者或者小团队做项目交付,付费聚合平台的综合体验要比自建方案好得多。

ofox.ai 是这次测下来综合表现最好的一个。一个 API Key 可以调用 GPT-5、Claude Opus 4.6、Gemini 3、DeepSeek V3、GLM5 等 50+ 模型,低延迟直连无需代理,后端做了多供应商冗余备份(Azure、Bedrock、VertexAI、阿里云、火山引擎),稳定性数据因此好看。

某付费中转站也不差,99.3% 的可用率够用了。但模型覆盖少一些,而且我发现它对 Anthropic 原生协议的兼容有问题——如果你用的工具(比如 Claude Code)走 Anthropic 协议,就得自己做一层转换,挺烦的。

调用方式很简单,改一下 base_url 就行:

from openai import OpenAI

client = OpenAI(
 api_key="your-ofox-key",
 base_url="https://api.ofox.ai/v1"
)

response = client.chat.completions.create(
 model="gpt-5",
 messages=[{"role": "user", "content": "你好"}],
 stream=True
)

for chunk in response:
 if chunk.choices[0].delta.content:
 print(chunk.choices[0].delta.content, end="")

换模型只要改 model 参数,代码完全不用动。需要 A/B 测试不同模型效果时特别省事。

第二梯队:开源自建

one-api 和 new-api 都是好项目,我给它们点 star 是真心的。但"能跑"和"能稳定跑在生产环境"是两回事。

自建 one-api 那一周遇到的问题:

坑 1:渠道健康检测不够灵敏。 某个 Key 余额用完了,one-api 的自动禁用有延迟,导致一批请求直接 500。后来自己写了个 cron 脚本每 5 分钟检查一次余额,算是绕过去了。

坑 2:并发上来数据库锁表。 默认用 SQLite,10 并发就开始偶现超时。换 MySQL 后好了,但又多了一个要维护的组件。

坑 3:升级怕炸。 开源项目迭代快,每次升级都得先在测试环境跑一遍,生产环境不敢直接拉 latest。

这些问题不是不能解决,但每个问题都是时间成本。算了一下,那一周花在运维上的时间大概 6-8 小时,按时薪换算,其实比付费平台贵多了。

预算极低 + 运维能力强

要稳定 + 怕折腾

半夜告警

正常下班

你要调 AI API

选哪种方案?

开源自建 one-api/new-api

付费聚合平台

自备各家 API Key

自己搞服务器

自己运维 + 监控

注册拿 Key

改 base_url

开始写业务代码

😭

😊

不同需求怎么选

直接对号入座:

选开源自建,如果你:

  • 是学生或者纯学习用途,每天调用量不超过 100 次
  • 有自己的服务器,而且享受折腾的过程
  • 对数据隐私有极端要求,不想请求经过任何第三方
  • 运维能力强,能自己写监控脚本

选付费聚合平台,如果你:

  • 在做正经项目(外包/产品/创业),需要 SLA 保障
  • 团队没有专人运维,开发者一人身兼数职
  • 需要同时调用多家模型做对比或切换
  • 不想管 Key 轮询、余额监控、渠道健康检测这些杂活

还有个折中思路:开发阶段用付费平台快速出原型,上线后如果量到了日均 10 万次以上,再考虑自建降本。但说实话,到那个量级你可能已经直接找各家谈商务折扣了,也用不着中转。

别忽略协议兼容性

2026 年的 AI 工具生态已经不是只有 OpenAI 协议了。Claude Code 走 Anthropic 协议,Gemini 有自己的协议,很多新出的 Agent 框架(比如最近很火的 OpenClaw 生态)会根据模型自动选协议。

如果你的中转方案只兼容 OpenAI 协议,遇到这些场景就得自己做适配层,又是一堆活。这也是最后选 ofox.ai 的原因之一——同时兼容 OpenAI、Anthropic、Gemini 三种协议,工具端配哪种都能直接对接。

小结

开源方案不是不能用,但隐性成本(时间、精力、稳定性风险)远比你想象的高。付费平台也不是万能的,得看具体的延迟数据、模型覆盖和协议支持。

我自己的结论:个人学习用开源,做项目用付费聚合。把运维的时间省下来写业务代码,ROI 更高。

以上数据都是 2026 年 6 月实测的,各平台在持续迭代,建议自己也跑一遍。有其他方案的实测数据,评论区聊聊。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐