×
img

德邦证券:通信行业周报:英伟达DGXH 100 AI服务器系统以及NVLink架构大幅提升数据速率,空芯反谐振光纤或将成为新一代AI算力集群通信传输技术

发布者:wx****6f
2023-04-04
731 KB 18 页
德邦证券
文件列表:
德邦证券:通信行业周报:英伟达DGXH 100 AI服务器系统以及NVLink架构大幅提升数据速率,空芯反谐振光纤或将成为新一代AI算力集群通信传输技术.pdf
下载文档
最新AI服务器中高算力GPU之间互联速率大幅提升,或将对传统传输技术提出挑战。英伟达在3月22日的GTC大会上发布最新AI服务器系统NVIDIADGXH100以及NVLINK架构,DGXH100配备8个H100GPU模组,并且配备Transformer引擎,总GPU显存高达640GB。每个H100GPU配备18个NVLink,确保GPU之间的双向带宽高达900GB/s,GPU之间通过NVIDIASwitch彼此互联,DGX配备4个NVSwitches,GPU之间双向带宽为7.2TB/s,比上一代性能提高1.5倍。NVSwitch可以连接多个NVLink,在单节点内和节点间实现以NVLink能够达到的最高速度进行多对多GPU通信。NVSwitch+NVLink可以实现纵向扩展来训练万亿参数模型,这些GPU拥有高达15petaFLOPS的深度学习计算性能。DGXH100服务器可利用NVLink来提高可扩展性,进而实现超快速的深度学习训练。在核心算力硬件性能大幅提升的背景下,即使升级到800G光模块来进行服务器之间的数据传输,传统光纤的损耗延时或将对数据传输效率施加压力。空芯反谐振光纤将降低

加载中...

已阅读到文档的结尾了

下载文档

网友评论>