文件列表:
东吴证券:光通信:谷歌发布TPU v5p系列产品,AI光互联迎来又一新方向.pdf |
下载文档 |
资源简介
>
投资要点谷歌发布最新一代TPUv5p及对应AIHPC,性能倍增1)在BF16精度下,TPUv5p的训练速度提升至v4的1.7倍达459TFLOPS,约为H100三分之一,芯片间互联(ICI)带宽提升至v4的2倍达4.8Tbit/s(单卡6接口,单口速率为800Gbit/s);2)单一POD中最大可互联芯片数上,v5p提升至v4的约2.2倍达8960片,因此v5pPOD最大算力为v4四倍左右;v5p服务器继续沿用3D环形拓扑结构及OCS谷歌在前代v4服务器上使用了3D环形拓扑结构及OCS(OpticalCircuitSwitch,光路交换机),v5p服务器将继续沿用。参考v4服务器架构,每64个节点组成4×4×4的立方体,每个芯片节点在6个方向上进行连接,其中立方体表面上相对的芯片需连接至同一交换机。目前在64元立方体中,芯片间使用无源电缆(PassiveElectricalCables)连接,表面上芯片则需外接光模块连接对应OCS,具体数量为96支(16支/面×6面),因此光-芯比约为1.5:1,若向H100算力看齐(约3片v5p算力等于1片H100),则等效“光-芯比”为4.5:1。
加载中...
已阅读到文档的结尾了



