×
img

华金证券:半导体:大模型如雨后春笋,算力需求促CXL加速渗透

发布者:wx****71
2023-06-20
304 KB 4 页
半导体 华金证券
文件列表:
华金证券:半导体:大模型如雨后春笋,算力需求促CXL加速渗透.pdf
下载文档
事件点评2023年6月19日,腾讯云在北京召开行业大模型及智能应用技术峰会,首次公布腾讯云行业大模型研发进展,依托腾讯云TI平台打造行业大模型精选商店,为客户提供MaaS一站式服务,助力客户构建专属大模型及智能应用。随着大数据AI/ML等应用爆发,内存与算力间技术发展差距逐步加大,成为制约计算系统性能主要因素。CXL有望突破内存墙及IO墙瓶颈,极高兼容性+内存一致性优势显著。当前主流计算系统数据处理方案依赖冯诺依曼架构(数据存储与数据处理分离体系),为满足速度及容量需求,现代计算系统通常采取高速缓存(SRAM)、主存(DRAM)、外部存储(NANDFlash)三级存储结构。越靠近运算单元存储器速度越快,但受功耗、散热、芯片面积等因素制约,相应容量越小。如SRAM响应时间为纳秒级,DRAM为100纳秒量级,NANDFlash为100微秒级,当数据在高速缓存/主存/外部存储三级传输时,后级响应时间及传输带宽将拖累整体性能,形成“存储墙”。IO墙产生于外部存储中,当数据量庞大需借助外部存储,并用网络IO访问数据。IO方式访问使访问速度成数量级下降,拖累整体性能。CXL(ComputeExpr

加载中...

已阅读到文档的结尾了

下载文档

网友评论>

开通智库会员享超值特权
专享文档
免费下载
免广告
更多特权
立即开通

发布机构

更多>>