×
img

国信证券:计算机行业2024年2月投资策略:全球AI训练算力重估,美方将限制对华AI云服务

发布者:wx****2d
2024-02-04
3 MB 22 页
互联网 国信证券
文件列表:
国信证券:计算机行业2024年2月投资策略:全球AI训练算力重估,美方将限制对华AI云服务.pdf
下载文档
核心观点Meta算力需求超预期,全球AI训练算力重估。Meta董事长兼CEO扎克伯格发布24全年算力卡需求指引,Meta将于24年底拥有接近60万颗H100GPU的等效算力,AI算力需求超预期。多模态大模型将拉动AI训练算力需求增长:1)同传统大语言模型的差异点:除文本数据外,需使用大量图像、视频等模态数据进行训练;2)图像训练数据大幅提升训练Token量:以BEIT方法为例,1张图片可以分割为N=HW/P2个2D块(即视为输入的Tokens),若将1张224*224大小的图片分割成16*16大小的2D小块,即单一图片相当于(224*224)/(16*16)=196个Tokens,图片训练素材的加入,拉动训练Token量的大幅增长,进而大幅提升AI训练算力需求;3)视频训练数据大幅提升训练Token量:同图像训练素材相比,视频训练素材增加了时间维度,训练过程更加复杂,产生的训练Token数量更多,对算力需求更大。SamAltman透露新一代大模型相关进展,模型能力大幅提升。SamAltman展望未来两年,人工智能有望在推理能力和可靠性、多模态(语音输入/输出、图像、视频)、可定制化和个

加载中...

本文档仅能预览20页

继续阅读请下载文档

网友评论>