07-04 AI 集群网络:GPU 之间的高速公路

07-04 AI集群网络 是计算机网络和你现有 03-01 AI硬件供应链 的交汇点。AI 训练不是一颗 GPU 单打独斗,而是几千颗 GPU 频繁同步。网络慢,昂贵 GPU 就在等人。


一、为什么 AI 需要强网络

大模型训练会把任务切到很多 GPU 上。每轮计算后,GPU 之间要交换梯度和参数。计算越快,通信越不能拖后腿。

二、东西向流量

传统网站很多流量是用户到服务器的南北向流量;AI 集群里,大量流量在服务器之间、GPU 之间横向流动,这叫东西向流量。

三、网络瓶颈怎么影响算力

如果网络慢,GPU 算完一小段就要等别的 GPU 同步。你买了很贵的算力,却因为“路堵”而空转。

四、关键技术

07-05 RDMA与RoCE 降低 CPU 参与和延迟,07-06 InfiniBand 提供高性能专用网络,07-07 以太网AI网络 试图用更开放的以太网承接 AI 集群。硬件上对应 03-03 光模块03-02 CPO03-04 PCB03-05 液冷

五、投资/产业视角

AI 网络把网络设备、交换芯片、光模块、CPO、PCB、散热全串起来。它解释了为什么 03-03 光模块 不只是通信配件,而是 AI 算力利用率的一部分。

一句话总结

AI 集群里,网络不是配角,而是让 GPU 不空等的高速公路。


关联笔记