AI Infra 的真相：Go 没输，rust也不是取代

作者：吴佳浩

撰稿时间：2026-6-8

最后更新：2026-6-8

本来是不太想写这篇内容，由于在之前的go的文章中的评论区有网友提出以下的观点
如果你的开发年限大于3年以上大概率是说不出这种话的。但是也感谢这位网友提供的话题 我们今天就来聊聊相关的内容。此篇内容为本人的个人见解和对行业行业的观察而得出（不喜勿喷😄)

引言

最近两年，关于 「Rust 取代 Go」 的声音越来越多。

尤其是在 AI Infra 爆发之后，从 Tokenizer 到推理框架，从向量数据库到高性能网关，大量新项目开始选择 Rust。

于是很多人得出一个结论：

Rust 正在取代 Go。

但如果你真正观察云原生和基础设施领域，会发现现实远比这个结论复杂。

甚至可以说：

Rust 和 Go 目前根本不是竞争关系，而是分工关系。

很多人看到 Rust 的崛起，却忽略了一个更重要的事实：

Rust 真正蚕食的，其实是过去属于 C++ 的地盘。

---

AI Infra 正在形成新的技术分层

如果观察最近两年的明星项目。

会发现一种越来越明显的趋势：

这并不是未来的预测。

而是 2024~2026 年已经发生的现实。

---

Rust 为什么突然火了？

原因很简单。

AI Infra 出现了大量极致性能场景：

• Tokenizer
• KV Cache
• 向量检索
• 推理网关
• GPU 调度
• 高性能网络

这些组件有一个共同特点：

高并发
低延迟
内存敏感

过去很多项目会选择：

C/C++

而最近几年开始变成：

Rust

很多人因此产生错觉：

实际上这里少了一步。

Rust 抢走的很多并不是 Go 的市场。

而是 C++ 的市场。

---

同一个任务，三种语言会写成什么样？

以推理网关中的 Token 统计为例。

Rust

特点：

• 零成本抽象
• 所有权系统
• 编译期内存安全

use std::sync::Arc;
use tokio::sync::RwLock;

struct TokenCounter {
    counts: Arc<RwLock<Vec<u64>>>,
}

编译器会帮你解决：

• 数据竞争
• 悬空指针
• Use After Free

这些曾经属于 C++ 工程师的噩梦。

---

Go

特点：

• Goroutine
• Channel
• 工程效率极高

go func(idx int, t string) {
    defer wg.Done()
    results[idx] = uint64(len(strings.Fields(t)))
}(i, text)

代码简单。

维护成本低。

这也是 Kubernetes 最终选择 Go 的重要原因。

---

C++

特点：

• 极限性能
• 手动管理资源

threads.emplace_back([&, i]() {
    results[i] = count_words(texts[i]);
});

自由度极高。

同时风险也极高。

很多线上事故最终都与：

Use After Free

Double Free

Memory Leak

Data Race

有关。

---

Go 的基本盘其实没动

如果把目光放到整个 Infra 世界。

你会发现：

• Kubernetes
• Docker
• etcd
• Prometheus
• OpenTelemetry
• Argo

这些项目依然建立在 Go 生态之上。

过去十年：

对于很多企业来说：

基础设施 = Go

已经形成了巨大的生态惯性。

没人会因为 Rust 快一些。

就去重写几十万行生产代码。

---

企业真正关心什么？

很多开发者关注：

性能
延迟
吞吐量

而 CTO 更关心：

开发效率
招聘难度
维护成本

现实往往是：

项目	Go	Rust
招聘	容易	较难
学习曲线	平缓	陡峭
开发效率	高	中等
极限性能	高	极高
维护成本	低	中等
云原生生态	极强	快速增长

因此大量企业最终的选择是：

而不是：

All Rust

---

Rust 真正抢的是谁的市场？

很多文章喜欢讨论：

Rust VS Go

但现实中更合理的问题应该是：

Rust VS C++

因为：

• Rust 获得了接近 C++ 的性能
• Rust 拥有远高于 C++ 的安全性
• Rust 降低了系统软件开发门槛

很多新项目开始出现这样的选择：

过去：

性能要求高

↓

直接上 C++

现在：

性能要求高

↓

优先考虑 Rust

这才是最大的变化。

---

AI Infra 的最终格局

未来几年更可能出现的是：

最终形成稳定格局：

层级	主流语言
AI应用层	Python
控制面（Control Plane）	Go
数据面（Data Plane）	Rust
GPU算子层	CUDA / C++
驱动层	C

---

结论

过去十年大家讨论的是：

Go 会不会取代 Java？

现在大家讨论的是：

Rust 会不会取代 Go？

但真正发生的事情其实是：

Go 负责让系统跑起来。

Rust 负责让系统跑得更快。

Python 负责让 AI 真正产生价值。

所以问题从来不是：

Rust 会不会取代 Go？

而是：

在 AI Infra 时代，哪些原本属于 C++ 的领域，正在被 Rust 接管。

这才是这场技术变迁真正值得关注的地方。