半导体行业跟踪报告之二十四：网络交换是AI集群互联核心，盛科通信交换芯片国内领先会员免费优质

敬请参阅最后一页特别声明 -1- 证券研究报告 2024 年 11 月 18 日 行业研究 网络交换是 AI 集群互联核心，盛科通信交换芯片国内领先 ——半导体行业跟踪报告之二十四 电子行业 买入（维持） 作者 分析师：刘凯 执业证书编号：S0930517100002 021-52523849 kailiu@ebscn.com 分析师：孙啸 执业证书编号：S0930524030002 021-52523587 sunxiao@ebscn.com 行业与沪深 300 指数对比图 -29%-17%-4%8%21%11/2302/2405/2408/24电子行业沪深300 资料来源：Wind 一、InfiniBand 与以太网是 AI 大模型训练集群的主要互联技术 AI 模型参数规模不断扩大，对大模型训练网络提出更高要求。随着以 GPT3.0 为代表的大模型展现出令人惊艳的能力后，智算业务往海量参数的大模型方向发展已经成为一个主流技术演进路径。以自然语言处理（NLP）为例，模型参数已经达到了千亿级别。计算机视觉（CV）、广告推荐、智能风控等领域的模型参数规模也在不断的扩大，正在往百亿和千亿规模参数的方向发展。 大模型训练中大规模的参数对算力和显存提出了更高的要求，千亿参数模型需要 2TB 显存，当前的单卡显存容量不够。即便出现了大容量的显存，如果用单卡训练的话也需要 32 年。为了缩短训练时间，通常采用分布式训练技术，对模型和数据进行切分，采用多机多卡的方式将训练时长缩短到周或天的级别。 图表 1：传统训练与大模型训练的不同 资料来源：《智算中心网络架构白皮书》 分布式训练就是通过多台节点构建出一个计算能力和显存能力超大的集群，来应对大模型训练中算力墙和存储墙这两个主要挑战。而联接这个超级集群的高性能网络直接决定了智算节点间的通信效率，进而影响整个智算集群的吞吐量和性能。要让整个智算集群获得高的吞吐量，高性能网络需要具备低时延、大带宽、长期稳定性、大规模扩展性和可运维几个关键能力。 InfiniBand 和以太网 RoCEv2 是当前智算网络互联主要方案。要满足智算网络的低时延、大带宽、稳定运行、大规模以及可运维的需求，目前业界比较常用的网络方案是 InfiniBand 方案和 RoCEv2 方案。 1）Infiniband InfiniBand 网络的关键组成包括 Subnet Manager（SM）、InfiniBand 网卡、InfiniBand 交换机和 InfiniBand 连接线缆。 支持 InfiniBand 网卡的厂家以 NVIDIA 为主。InfiniBand 网卡在速率方面保持着快速的发展。200Gbps 的 HDR 已经实现了规模化的商用部署，400Gbps 的 要点

敬请参阅最后一页特别声明 -2- 证券研究报告 电子行业 NDR 的网卡也已经开始商用部署。交换机方面，NVIDIA 在 2021 年推出了400Gbps 的 Quantum-2 系列交换机（64*400G）。交换机上有 32 个 800G OSFP口，需要通过线缆转接出 64 个 400G QSFP。InfiniBand 交换机上不运行任何路由协议。整个网络的转发表是由集中式的子网管理器（SubnetManager，简称SM）进行计算并统一下发的。除了转发表以外，SM 还负责管理 InfiniBand 子网的 Partition、QoS 等配置。 图表 2：Infiniband 网络架构 资料来源：《智算中心网络架构白皮书》2）RoCEv2 网络 RoCEv2 网络则是一个纯分布式的网络，由支持 RoCEv2 的网卡和交换机组成，一般情况下是两层架构。支持 RoCE 网卡的厂家比较多，主流厂商为 NVIDIA、Intel、Broadcom。数据中心服务器网卡主要以 PCIe 卡为主。RDMA 网卡的端口 PHY 速率一般是 50Gbps 起，当前商用的网卡单端口速率已达 400Gbps。 图表 3：RoCEv2 网络架构 资料来源：《智算中心网络架构白皮书》

敬请参阅最后一页特别声明 -3- 证券研究报告 电子行业 支持 RoCE 的交换机厂商中，市场占有率排名靠前的包括新华三、华为等。支持RoCE 的网卡当前市场占有率比较高的是 NVIDIA 的 ConnectX 系列的网卡。 当前大部分数据中心交换机都支持 RDMA 流控技术，和 RoCE 网卡配合，实现端到端的 RDMA 通信。国内的主流数据中心交换机厂商包括华为、新华三等。高性能交换机的核心是转发芯片。当前市场上的商用转发芯片用的比较多的是博通的 Tomahawk 系列...