文件列表:
国投证券:通信:算力边缘化部署赋能AIGC推理,或为应用落地关键一环.pdf |
下载文档 |
资源简介
>
AIGC发展带动算力基础设施建设需求:ChatGPT出现迅速发展用户至全球市场,成为增长最快的消费应用,直接促进了生成式人工智能的发展与落地;国内外头部云厂商及国内运营商都加速了算力部署,AICG在各种实际场景都用应用,例如,图像检测、自动驾驶、智能人机接口、自然语言处理模型以及其与应用的结合等,以上一切技术都需要AI算力支持,因此构建AI基础设施非常重要。国家数据局成立,算力建设产业化加速发展。算力边缘化部署或为应用落地关键一环:边缘计算将算力部署到数据端和用户端,具有微秒级响应能力,降低线路中断风险与整体流量成本,较传统的云计算有低时延、高安全、高稳定性、高性价比与广覆盖等优势;例如,高精度制造业、无人驾驶与车路协同等应用依赖于高速率、低时延、高稳定性与高敏感度等,与边缘算力供给特点契合,并且边缘算力的建设成为这些应用落地的关键一环。边缘算力赋能AI模型推理端计算:边缘计算具有时延低、离线可用、保护隐私与宽带节省等特点,在边缘设备上进行训练与推理更有助于保护用户隐私以及提供定制有效服务,有很多应用更适合在边缘设备上进行处理。现实中各种应用的海量数据的传输与处理会对云端网络带来巨大压
加载中...
已阅读到文档的结尾了



