文件列表:
安信证券:安信通信基础设施系列报告之光模块需求测算:AI训练及推理有望带动高速率光模块用量.pdf |
下载文档 |
资源简介
>
SuperPOD为英伟达专为AI设计的一站式AI数据中心解决方案,为业内典型案例。NVIDIADGXSuperPOD作为英伟达针对AI发展而开创的一站式AI数据中心,拥有最为典型而高效的胖树拓扑架构,可以作为光模块与GPU数量关系测算过程的主要对象和测算结果的拓展依据。在NVIDIASuperPOD的基础上,NVIDIA于2015年开始构建Selene,最终实现了全新的人工智能模型节点架构,制造出了运行速度排名全球第五的超级计算机。光模块相比传统铜线优势明显,随着高速率场景占比提升有望逐步替代铜线。相比于传统的铜缆传输,光模块凭借自身截面半径小、易于弯折、连接范围广和易于布线等优势,在传输速率逐渐提升的当下有望进一步替代铜线,实现全光模块方案。A100与H100、训练与推理场景中光模块种类及数量不尽相同。1)在训练场景中,通过模型测算:在A100GPU搭建的胖树拓扑结构下,200G光模块用量与GPU数量关系为6:1;在H100GPU搭建的胖树拓扑结构下,400G光模块用量与GPU数量关系为1:1,800G光模块用量与GPU数量关系为2.5:1。2)在推理场景中,数据中心经流的东西向信息
加载中...
已阅读到文档的结尾了



