文件列表:
申港证券:电子行业研究周报:存储架构推升SSD需求,封测扩产及涨价提升景气度.pdf |
下载文档 |
资源简介
>
投资摘要:
每周一谈:存储架构推升SSD需求封测扩产及涨价提升景气度
英伟达推出AI推理上下文存储平台,或推升SSD存储需求。根据华尔街见闻,英伟达提出基于BlueField-4DPU构建的推理上下文内存存储平台,以解决长上下文的复杂推理中的存储调用问题。公司表示,在AgenticAI时代,智能体需要记住漫长的对话历史和复杂的上下文,这会产生巨大的KVCache(键值缓存)。传统的解决方案是将这些数据放入HBM显存中,但HBM容量有限且价格高昂,AI的工作记忆存储在HBM内存中情况下,每生成一个token,它都要读取整个模型和所有工作记忆。这种存储架构对于需要长期运行、拥有持续记忆的AI智能体不可持续。该存储平台在每个GPU原有1TB内存的基础上,为每个GPU额外增加了16TB的高速共享内存,并通过高达200Gb/s的带宽连接计算单元,以避免传统存储带来的延迟。根据EEPW,英伟达Dynamo可支持跨内存和存储层级的协同工作,覆盖GPU的高带宽内存(HBM)、GPU服务器CPU的动态随机存取存储器(DRAM)、直连NVMeSSD及网络附加存储。
AI运算架构升级推升存储器市场产值,Tr
加载中...
已阅读到文档的结尾了



