传统 DCN 网络工程师转向 AIDC 的一次学习记录

这次准备 AI Infrastructure and Operations FundamentalsPrepare for NCA-AIIO Certification),对我来说不是单纯为了多拿一张证书。

更真实一点说,是因为我发现自己过去很熟悉的那套 DCN 语言,在 AIDC 场景里开始不够用了。

AIIO 课程完成证书(已对姓名部分做隐私处理)

01

我过去主要做传统数据中心网络。

Spine-Leaf、EVPN/VXLAN、DCI、路由收敛、链路冗余、QoS、Telemetry,这些东西并不陌生。很多时候,看到一张网络拓扑,大概就能判断哪里是带宽瓶颈,哪里是故障域,哪里后期扩容会难受。

但这两年接触 AIDC 相关话题之后,我明显感觉到,客户的关注点变了。

以前聊数据中心网络,大家会问:

这张网怎么做高可用?

东西向流量怎么走?

跨数据中心怎么互联?

设备故障后业务怎么收敛?

这些问题我很熟。

但现在聊 AI 集群,问题经常变成:

“GPU 为什么没有跑满?

“RoCE 网络看起来没丢包,训练为什么还是慢?

存储、调度、网络到底是哪一层拖了后腿?

客户要建 AIDC,网络方案怎么和算力、业务目标放在一起讲?

听到这些问题时,我意识到,传统 DCN 的知识不是没用了,而是需要换一个坐标系。

02

有一次准备 AIDC 相关客户交流,我翻以前做 DCN 项目时常用的材料,里面写得最多的是高可靠、低时延、大带宽、可扩展。

这些当然没错。

但我一边看一边觉得不太对。

如果对面是传统数据中心客户,这些话可以直接成立;但如果对面在建设 AI 集群,只讲这些就有点悬。客户真正关心的不是“网络指标看起来很好”,而是训练任务能不能更快完成,GPU 资源会不会被通信卡住,集群出了问题能不能快速定位。

那一刻我有一个很明显的感觉:

我不能再只从交换机、链路、协议栈往外讲,必须往上多走几层,去理解 AI 任务到底怎么使用这张网络。

比如过去看到 400G 端口,我会先想端口密度、收敛比、布线、ECMP、Buffer。

现在还要继续想:这个带宽服务的是训练还是推理?是单机多卡通信,还是跨节点 AllReduce?流量是持续型还是突发型?GPU 等待时间和网络拥塞之间有没有关系?存储能不能把数据喂上来?

这些问题让我开始认真补 AI Infrastructure and Operations 这一块。

AIIO 就是在这个时候进入我的学习计划的。

03

我对 AIIO 最大的感受是,它没有让我“从网络转行去学算法”。

它更像是帮我把原来的网络经验,重新放到 AIDC 的上下文里。

传统 DCN 里,我们经常说网络稳定、链路可靠、路由收敛快。

到了 AIDC,这些能力仍然重要,但它们要服务一个更具体的目标:让 AI 作业跑得稳、跑得快、跑得可运营。

这中间的差别很大。

比如“网络没丢包”这句话,在传统业务场景里已经是一个很强的结论。但在 AI 训练场景里,它可能只是排查的开始。

因为训练慢不一定是显性丢包造成的。它可能和拥塞控制、尾延迟、PFC/ECN 配置、NCCL 通信模式、作业调度、存储吞吐都有关系。

也就是说,AIDC 里的网络问题,很多时候不是单独存在的网络问题,而是算力、数据、调度、存储和网络一起表现出来的系统问题。

这也是我觉得传统网络工程师需要转型的地方。

不是把过去学的东西推倒重来,而是要把过去的能力接到新的业务链路上。

04

备考过程中,我没有把 AIIO 当成“背概念”的考试。

我更关注几个问题:

第一,AI 基础设施到底由哪些部分组成。

GPU、服务器、Scale-up、Scale-out、RoCE、InfiniBand、存储、Kubernetes、调度、监控,这些名词单独看都不难,但放在一个 AI 集群里,它们之间的关系才是重点。

第二,传统网络知识怎么迁移到 AIDC。

CLOS 不是过时了,而是在 AI Fabric 里继续发挥作用。QoS、PFC、ECN 也不是配置项而已,它们会直接影响 RDMA/RoCE 的表现。Telemetry 也不只是采集端口流量,而是要和作业状态、GPU 利用率、故障定位结合起来看。

第三,网络方案怎么讲到业务结果。

过去我们说高带宽、低时延、高可靠。现在我会更希望自己能讲清楚:这些能力如何影响训练效率,如何减少 GPU 等待,如何提高集群利用率,如何降低运维复杂度。

这个变化对我挺关键。

因为 AIDC 不是把交换机堆得更大,也不是简单把数据中心网络升级到 400G/800G。它背后是 AI 工作负载对基础设施提出了新的要求。

05

如果让我总结这次 AIIO 学习的收获,我觉得最重要的不是某个知识点,而是视角变了。

以前我看网络,第一反应是拓扑、协议、带宽、故障域。

现在再看 AIDC,我会先问:

这套基础设施服务什么 AI 任务?

训练还是推理?

瓶颈可能出现在计算、网络、存储还是调度?

网络指标和 GPU 利用率能不能放在一起看?

后续扩容和运维怎么做?

这些问题会逼着自己跳出单纯的网络视角。

这也是我觉得 AIIO 对传统 DCN 背景的人比较有价值的地方。它不是让你变成算法工程师,而是让你知道 AI 基础设施到底怎么运行,网络在里面到底承担什么角色。

06

我也踩过一个认知坑。

刚开始看 AIDC 的时候,很容易被各种新词带着走:GPU、NCCL、RDMA、RoCE、InfiniBand、KV Cache、AI Factory。

名词很多,看起来很热闹,但如果只停留在名词层面,其实很容易写出一篇“看起来懂 AI、其实全是概念”的东西。

后来我给自己定了一个原则:每学一个概念,都要问它和我过去熟悉的 DCN 有什么关系。

RoCE 和传统以太网有什么关系?

PFC/ECN 为什么在 AI 网络里被反复提?

Scale-out Fabric 和传统 Spine-Leaf 有哪些相同点、不同点?

AI 集群的可观测性,为什么不能只看端口和链路?

这样学下来,很多东西就不再是空的。

07

如果你也是传统网络背景,想往 AIDC 方向转,我觉得不用焦虑。

我们过去积累的东西仍然有价值。

网络架构、协议理解、故障定位、容量规划、自动化、可观测性,这些能力在 AIDC 里依然需要,而且会变得更重要。

只是表达方式要变。

以前我们证明的是:这张网是稳定的。

现在还要进一步证明:这张网能让 AI 任务稳定、高效、可持续地跑起来。

这句话听起来差别不大,但背后要求完全不一样。

08

拿到这张证书,只能算是一个开始。

但它对我有一个很实际的提醒:

传统 DCN 的经验不能丢,但也不能只停在原来的边界里。

AIDC 时代的基础设施工程师,不能只会讲网络设备,也要能理解算力、存储、调度、作业和运维。

未来真正有价值的能力,可能就是把这些东西串起来。

对我来说,AIIO 的意义就在这里。

它不是终点,而是我从传统 DCN 走向 AIDC 的一个清晰起点。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐