文件列表:
开源证券:电子行业点评报告:国产Scale-up/Scale-out硬件商业化提速,聚焦AI运力产业投资机遇.pdf |
下载文档 |
资源简介
>
算力+存力+运力三位协同推动AI硬件能力,国产运力或成为当前发展重点
AI硬件能力在于三点:(1)算力:以GPU性能和数量决定。(2)存力:Transformer涉及大量重复的KV矩阵存储和调用,使用贴近GPU的超高带宽HBM缓存是当前主流方案。(3)运力:分为Scaleup、Scaleout和Scaleacross三个场景,分别对应节点内、节点间与数据中心间的高速通信和数据传输能力。
随GPU计算能力与HBM带宽的提升,运力的瓶颈将导致AI数据中心节点空置率高,GPU性能浪费。运力的发展将会带动整体AI数据中心运行效率提升,同时也将成为推动AI数据中心运算能力提升的重点。当下国产算力厂商发展如火如荼,存力方面华为与长鑫也逐步在HBM取得进展,因此,我们认为运力的发展也将成为下一个国产化攻坚的重点。
超节点+大集群推动运力市场规模迅速提升,公有与私有协议齐舞
当下传统算力架构已难以满足高效、低耗、大规模协同的AI训练需求,超节点成为趋势,其通过提升单节点计算能力,大幅带动了Scaleup相关硬件需求,据Lightcounting,Scaleup交换芯片已成为数据中心主力交换需求,并且持
加载中...
已阅读到文档的结尾了



