文件列表:
开源证券:电子行业点评报告:AI大模型厂商加速导入硬件入口,端侧AI产业链投资机遇可期.pdf |
下载文档 |
资源简介
>
AI模型持续迭代,端侧化与轻量化成为核心方向
全球主流大模型通过算法优化与数据积累实现快速迭代,核心表现为能力增强与推理效果优化两大维度。基础模型层面,GPT系列、Gemini等通过扩大参数规模、引入多模态融合,实现复杂任务处理能力突破,例如支持代码生成、逻辑推理、跨语言理解等高阶功能;同时,模型推理效率持续优化,通过多模块注意力、动态扩展、高级批处理等技术,企业可以确保其AI兼具高性能、低延迟和高性价比,为端侧部署奠定性能基础。
随着大模型压缩和量化技术的不断提升,知识密度持续增大,终端搭载的模型能力值逐步增强。2024年2B参数量的大模型MiniCPM能力与2020年GPT-3175B大模型能力接近。往后看,大模型的规模化扩展需依赖云端和终端的协同工作,通过云端搭配终端进行AI计算工作负载的分流,带来成本、能耗、性能等方面的优化,AI处理的发展重心有望逐步从云端向手机、PC等终端载体转移。
终端硬件入口重要性凸显,各家大模型厂商加速导入助力各场景应用落地随端侧AI模型性能及端云协同等模式迈向成熟,各家AI大模型厂商开始布局硬件入口,推动各类AI功能和应用场景的快速落地:例如:
(1
加载中...
已阅读到文档的结尾了



