AI智算发展对高速光模块的应用需求研究

摘  要

AI智算技术的高速发展驱动高速光模块需求量激增，大规模数据处理、大模型训练和推理等任务对高速光模块提出了前所未有的高要求。通过分析大模型训练的分布式并行计算需求，建立通信模型，并以GPT-3为例定量分析大模型通信量，由于通信量巨大，完成大模型训练的数据通信时间远高于并行计算时间。因此，在不降低计算性能的前提下，降低通信时间成为AI智算对通信网络的核心诉求，而采用更高速率的光模块互联、提升有效带宽是解决问题的主要途径。AI智算对高速光模块技术的需求将主要体现在更高速率、更大规模、高集约化、低功耗、高稳定性以及可管可控等方面。

   0 1   

 概 述

随着人工智能技术的飞速发展，全球智算数据中心建设加速，而光模块是智算数据中心内保障数据传输的关键组件，其市场需求也随之激增。根据Light Counting 2023年7月发布的《超级数据中心光学报告》预测，用于AI集群的以太网光模块总销售额将持续增长，2028年达到176亿美金，占所有以太网光模块市场的38%，市场占有率较2023年提升13%，其中800G光模块将在2024年规模应用，1.6T光模块将在2026年规模应用。AI智算驱动高速光模块发展是业界共识，但以大模型训练为代表的AI应用是如何影响智算数据中心内的通信需求，进而驱动光模块的速率提升和用量的激增，业内却鲜有定量论述。本文对此展开研究，以AI大模型并行计算需求为源，以智算数据中心内高速光模块发展趋势为宿，层层剖析和关联，建立通信模型，进行定量测算。

   0 2  

AI大模型的分布式并行计算需求