AI专题:AI和“东数西算”双轮驱动,服务器再起航

今天分享的是AI系列深度研究报告:《AI专题:AI和“东数西算”双轮驱动,服务器再起航》。

(报告出品方:华福证券

报告共计:38

来源:人工智能学派

不断涌现的AI大模型推动算力需求激增

• 大模型推动算力需求增长。自2022年OpenAi发布的ChatGPT将大型语言生成模型和AI推向新高度以来,全球各大科技巨头纷纷拥 抱AIGC(AI-Generated Content,人工智能生成内容)。大模型通常包含数亿级的参数,需要消耗大量算力。据OpenAI团队发表 于2020年的论文《Language Models are Few-Shot Learners》,训练一次1746亿参数的GPT-3模型需要的算力约为3640 PFlop/s-day。AI大模型可以用于训练和推理,主要用在云端(数据中心侧)和边缘侧(终端侧)。

• AI服务器作为算力的发动机,算力需求的增长将迎来AI服务器需求的快速增长。据IDC统计,2023年全球AI服务器市场规模预计为 211亿美元,2025年将达到达317.9亿美元,2023-2025年CAGR为22.7%。采购量方面,根据TrendForce的统计,截至2022年, 北美四大云端服务提供商Microsoft、Google、Meta、AWS在全球AI服务器采购中的总份额达到约66%, Microsoft和Google分 别占有全球19%以及17%的份额。

AI服务器出货量持续增长

• 服务器整机出货量放缓,AI服务器出货量稳步上升。2022年全球服务器出货量增长4.8%,达到约1360万台。然而,预计到2023年, 全年增长将放缓至1.5%。服务器整机出货量放缓的主要原因是大型云服务提供商的整体服务器购买量下降,集体转向高价AI服务器。 根据TrendForce数据,2023年AI服务器出货量逾达120万台,占据服务器总出货量的近9%,年增长达38.4%。预计2026年,AI服 务器出货量为237万台,占比达15%,复合年增长率预计保持25%。

• AI服务器整机逻辑结构可确保各组件高效运行。如浪潮的NF5688M6型号AI服务器,其逻辑结构采用NVIDIA NVLink互联架构,可 基于硬件拓扑,实现 GPU:IB:NVMe=1:1:1的配比。此外,GPU之间交互效率高,可直接进行数据通信速率为400GB/s的 P2P 交互。最后通过UPI 总线互联设计,该型号AI服务器可为深度学习业务场景提供高效计算性能。

AI服务器成为算力发动机

AI服务器整机搭载高端配件,构建丰富结构。根据IDC数据,2023H1中国AI服务器市场规模环比上升54%,其主要原因是国内 各大厂商纷纷布局AI服务器产业,升级产品技术规格。处理器方面,浪潮信息及宁畅产品主要通过搭建四代英特尔CPU+英伟 达H800GPU超高算力组合,华为的昇腾系列和鲲鹏系列服务器主要搭载自研鲲鹏处理器及昇腾处理器,中科曙光搭载龙芯处理器满足大算力需求。此外,厂商普遍配置有32个DDR4内存插条和SAS/SATA硬盘,以及支持0/1/10/5/50/6/60RAID。

芯片和存储是AI服务器的主要构成

• 计算芯片和存储是服务器的核心构成。服务器产业链包括:芯片GPU(图形处理单元)、CPU(中央处理单元),存储: DRAM(动态 随机存取存储器)、SSD(固态硬盘),PSU(电源供应单元),NIC(网络接口卡)、 PCIe(高速串行扩展总线)插槽、BIOS (基本输入输出系统)和 BMC(基板管理控制器)等。芯片和存储作为AI服务器的核心,决定着AI服务器的算力和宽带大小。

• AI服务器AI芯片价值量占比提升。传统的通用型服务器中,售价10424美金的2x Intel Sapphire Rapids Server,CPU的成本占比约 17.7%,内存和硬盘占比超过50%。而AI服务器,售价为268495美金的Nvidia DGX H100中,CPU占比仅1.9%,GPU占比高达72.6%。 内存价值量提升,但占比下降至4.2%左右。AI服务器较通用服务器价值量提升明显,AI芯片在AI服务器中占有绝对比重。随着AI服务器放量,AI芯片正迎来黄金爆发期。

报告共计:38页

来源:人工智能学派

  • 17
    点赞
  • 23
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值