07-06 InfiniBand:AI 集群的专用高铁

07-06 InfiniBand 可以理解成 AI 集群里的专用高铁系统:为低延迟、高吞吐、集群通信而生,性能强,但生态更专用。


一、它解决什么

大规模 GPU 训练需要节点之间高速互联。InfiniBand 提供高带宽、低延迟、RDMA 友好和成熟的集群通信能力。

二、为什么不是普通以太网

传统以太网更通用、更便宜,但早期在低延迟和无损通信上不如 InfiniBand。AI 训练对等待极敏感,所以高端集群长期偏爱 InfiniBand。

三、代价

专用系统性能强,但成本、供应链、生态绑定也更强。越是专用高铁,越不如普通公路灵活。

四、和以太网路线

07-07 以太网AI网络 正在追赶:用 RoCE、拥塞控制、高速交换芯片和光模块,把普通公路升级成能跑重载车队的高速路。

一句话总结

InfiniBand 是高性能 AI 网络的专用高铁,强在低延迟和集群通信。


关联笔记