国信证券：电子AI+系列专题报告：边缘AI：大语言模型的终端部署，推动新一轮终端需求

核心观点大模型参数量级飞涨，相应训练集需同比提升。李开复定义AI2.0时代的特征是通过海量数据，无需标注自监督学习，训练一个基础大模型，并在各领域将其专业化。据相关论文，当模型的参数量大于某阈值，会展现出类似推理、无监督学习等未曾出现的能力，这种现象被称为“涌现”，因此目前大语言模型参数均在十亿量级以上。同时，Deepmind研究表明，模型参数的上涨需要配合等比例上升的优质数据集来达到最佳训练效果。因此，大模型参数在十亿级以上发展并受限于优质数据集的增速是AI发展的必然趋势。大模型增长挑战芯片算力和内存，无法实现完整端侧部署。大模型训练和推理的三大瓶颈是算力、显存和通信，根据我们的测算，算力方面GPT-3训练所需算力为121528TFLOPS，若30天内完成，需要1558颗A100。内存角度，GPT-3训练至少需要3.2T内存，至少44张A100，推理任务则主要受显存限制，需要4至8张A100，因此完整的模型无法在终端上离线运行。优化后大模型可在旗舰机型芯片上运行，AI落地有望推动新一轮换机潮。AI部署本地化具有必要性，优势包括更低的延迟、更小的带宽、提高数据安全、保护数据隐私、高可靠