7月4日,2024年世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2024)在上海世博展览馆盛大开幕。曦智科技首次在大会展区设立展位,并现场展示了其光子网络和光子计算两大产品线的多款产品及解决方案。
WAIC 2024观众参观曦智科技展台
光子网络产品线:新型数据搬运
由于人工智能、云计算、物联网等技术的发展,当今社会正面临着数据量的指数级增长,算力网络的发展需要高速率、高带宽、高能效的互连技术作为支撑。光子技术凭借其低时延、低功耗的特性,在满足数据中心日益增长的数据传输需求、提升运营效率等方面可发挥重要的作用。光电混合技术路线可为算力提升提供全新解决方案,曦智科技正是这一领域的先行者。
曦智科技于2023年发布了首款兼容PCIe和CXL协议的数据中心计算光互连硬件产品Photowave,为客户提供芯片间(C2C)、卡间(B2B)、服务器间(S2S)、机架间(R2R)等多层级的互连解决方案,实现大规模数据中心的性能扩展。本次WAIC期间,曦智科技展示了Photowave的多个互连解决方案,包括内存池和xPU池的扩展演示,以及基于OCS的多服务器多资源互连演示。
曦智科技Photowave计算光互连硬件产品
资源池化和扩展是智算中心的一个新技术方向。曦智科技Photowave系列计算光互连产品可以通过专用板卡和线缆连接服务器主机和内存、算力、存储等各类资源盒,实现资源的按需增减,可大幅提升资源的可伸缩性及利用率,降低资源的拥有成本和智算中心的运营成本。本次WAIC期间,曦智科技现场展示了资源扩展盒及其与服务器之间的光连接。
曦智科技光子网络产品线多个解决方案亮相本次WAIC
曦智科技同时展示了内存扩展及其与服务器之间的光连接。CXL(Compute Express Link)是一种开放性互连协议,高带宽、低延迟的特性使其成为连接处理器、加速器、存储等关键组件的理想选择。曦智科技的Photowave系列计算光互连产品已率先成功实现CXL内存池化的远距离光互连,规模化应用后可极大提升不同计算硬件的工作负载效率,赋能数据中心的架构解耦和资源池化。
曦智科技工作人员向现场观众介绍基于CXL光互连的内存扩展解决方案
曦智科技还展示了服务器与集中式OCS的光连接。OCS(Optical Circuit Switching)是一种基于光学交叉开关原理的光信号控制交换技术,其核心功能是在光层面对信号进行快速、灵活的路由和切换,使服务器端口实现直接光学互连,过程中无需光电转换,能耗大幅度降低。OCS的灵活部署能力在大模型XPU组网中可以发挥独到的作用,曦智科技在集中式和分布式OCS方面都作了积极的技术探索和验证。
现场观众驻足了解曦智科技光互连解决方案
值得一提的是,曦智科技展示了公司在CPO共封装光学 (Co-Packaged Optics)方面的提前布局和技术储备。共封装光学是一项新兴封装技术,将光收发器/光引擎和电芯片封装在一起,不再使用传统可插拔光模块而仅保留光口。相较于传统PCB封装技术,CPO在成本、功耗和尺寸上都有明显优势。目前,曦智科技首个共封装光学项目正在落地中。
共封装光学渲染图
光子计算产品线:新型数据处理
曦智科技光子网络产品线聚焦于算力的横向扩展,而光子计算产品线旨在于单节点之内实现算力的纵向提升。在目前主流的人工智能计算任务中,矩阵乘法占据着核心地位。作为一种线性运算,矩阵乘法可以使用光子技术来加速,可编程的光子矩阵计算在摩尔定律逐渐失效的当下可望继续支撑算力提升。
参加本次WAIC展览的还有曦智科技光子计算产品线的光子计算处理器PACE、人工智能推理卡OptiHummingbird、光子计算评估板Gazelle等产品。同时,曦智科技现场演示了如何使用Gazelle评估板求解QUBO类问题,例如伊辛问题、max-cut问题、sat问题等,而这类问题可广泛应用于人工智能、量子计算、网络安全等领域,为这些领域的科研和工业生产提供强有力的支持。
光子计算处理器PACE
人工智能推理卡OptiHummingbird
Gazelle光子计算评估板含矩阵可调的光学矩阵乘法器单元,具备目前光子计算领域已知最高的计算精度,其光芯片具有可编程性,可运行更多的定制矩阵乘法,通过板载FPGA与光子芯片融合实现多种计算负载,如QUBO类问题求解、Transformer模型运行,且支持RESNET10、RESNET50等AI应用场景。同时,广大开发者可通过该平台共同建设更多的算法与应用生态。
曦智科技Gazelle光子计算评估板