金元证券：电子/行业深度报告：AI用电的“困”与“破”

摘要 随着近些年AI模型竞赛日益激烈，训练最先进人工智能模型所需的数据量和计算量呈指数级增长。训练是一个耗时且耗能的过程，计算在GPU/ASIC等专用芯片上进行。当前，单个GPU的最大额定功耗可达1000瓦。GPT-4训练时间约95天（2280小时），采用84%的负载因子计算，其训练能耗需求约为38.2GWh，折合训练期间内日均能耗约0.40吉瓦时（40万度电），如果以一个家庭单日电力消耗约为10度，GPT-4日均能耗约等于4万个家庭单日用电量。 不同于训练，推理任务的能耗需要考虑因素较多。比如，输入Token量及输出Token量、硬件配置以及批处理规模、键值缓存管理、注意力机制等操作优化策略的多重影响。此外，由于面向用户的商业AI模型在规模与实施细节方面缺乏透明度，难以精确测算其算力需求及后续能耗。不过随着长上下文任务及多模态模型的加速渗透，即使通过MoE或其他算法提升效率，但是总耗能或仍然持续提升 2024年全球数据中心用电量达415TWh，约占全球总用电量的1.5%，但耗电量较为集中。美国、欧洲及中国的数据中心用电量合计约占全球总量的85%。其中，美国自2015-2024年期间，