一、人工智能服务器的“CPU+”架构、优势及痛点
人工智能赋能各行各业,想要做好人工智能研究,离不开作为底层支撑的服务器。当前市场上的人工智能服务器大多强调硬件配置,但是人工智能作为一门新兴技术,如果缺乏训练数据以及技术支持、使用培训等服务,即使是高配置的人工智能服务器,可能只能束之高阁。
传统的单纯以CPU为计算部件的服务器架构难以满足人工智能的新需求,因此“CPU+”架构成为人工智能服务器的核心思路。其中,CPU仍旧是服务器中不可或缺的部分,而在人工智能计算负载加速方面则可以引入拥有更多计算核心的计算部件采用并行计算的方式解决。
人工智能服务器的“CPU+”架构
资料来源:智研咨询整理
虽然都是遵从“CPU+”架构,但是应用在不同场景中的人工智能服务器在设计方案上也会有一些差异,人工智能服务器的技术选型和部件配置需针对不同的业务场景做相应的调整优化。
在人工智能服务器领域,人工智能技术的渗透同样显著,在数据处理方面,利用了CPU+架构模式,数据处理能力较普通CPU架构服务器有着突破性进步。人工智能模式下的数据处理核心,将代替芯片处理方案,引入新型的加速部件,算法优化部件,用以承担部分计算任务负载。计算核心数的增加,神经分析网络的智能化,也使得服务器的计算能力显著提升,服务器可提供的服务也就更加个性化。
人工智能服务器相较于普通GPU服务器的优势
资料来源:智研咨询整理
人工智能技术于各行各业的不断渗透下,服务器产业被推向了新的高度。而铺天盖地的人工智能改变世界的宣传也为人工智能服务器产业领域的发展加上了一层美好的滤镜。相信在不久的将来,有关服务器核心架构方面的技术将得到突破性的进展,人类社会也将因为AI技术而产生天翻地覆的变化。
当前人工智能服务器领域仍存在的痛点:
资料来源:智研咨询整理
二、行业发展规模
智研咨询发布的《2021-2027年中国人工智能服务器产业发展动态及投资前景预测报告》显示:2020上半年全球人工智能服务器市场规模达到55.9亿美元,占人工智能基础设施市场的84.2%以上,成为AI基础设施的需求主体。目前,浪潮、戴尔、HPE分列全球AI服务器市场份额前三,其中浪潮市场规模918.89百万美元,市场占有率为16.4%。
2020年上半年全球AI服务器市场份额
资料来源:IDC、智研咨询整理
随着中国人工智能技术市场将高速增长,中国人工智能服务器已经成为全球人工智能产业发展的中坚力量。2020年中国人工智能技术市场规模62.7亿美元,同比增长37.50%;预计2021年中国人工智能技术市场规模89亿美元,同比增长41.95%;到2024年,中国人工智能技术市场规模将达到172亿美元。
2019-2024年中国人工智能技术市场规模及增长
资料来源:IDC、智研咨询整理
人工智能是推动数字化转型与创新的原动力,将成为引领第四次工业革命的核心驱动力,而以计算力为核心的人工智能已从探索走向实践。人工智能市场投资的66%是计算力投资,人工智能发展离不开算力的支撑。
计算能力的提升会导致人工智能服务器产生一系列新要求的基本设计思路
资料来源:智研咨询整理
单场景芯片算力需求迅速增长,需要在多种环境随时提供算力,覆盖范围要求大,传输时延要求低,人工智能在各个场景渗透率持续提升。2020年中国人工智能对算力的需求134 EFLOPS;预计2025年中国人工智能对算力的需求1709 EFLOPS;2030年中国人工智能对算力的需求16206 EFLOPS。
2018-2030年中国人工智能对算力的需求
资料来源:IDC、智研咨询整理
服务器在整体市场中将保持主体地位。2020年中国人工智能服务器市场规模34.1亿美元,同比增长28.20%;预计2021年中国人工智能服务器市场规模46.7亿美元,同比增长36.95%;到2024年,中国人工智能服务器市场规模将达到66.2亿美元。
2019-2024年中国人工智能服务器市场规模及增长
资料来源:IDC、智研咨询整理
人工智能服务器中排名在前十的有华为的昇腾系列;中科曙光的X795-C30、X785-G30;浪潮的NF5488M5-D、NF5488A5;戴尔的R740、DSS8440;英伟达的NVIDIADGX;联想的ThinkSystemSE350;清华同方的同方超强G858;新华三的H3CUniServerC5;中兴的ES60OSMEC;杰和的EN4B、ISC-661。
2020年人工智能服务器排行情况
排名企业产品
1华为昇腾系列
2中科曙光X795-C30、X785-G30
3浪潮NF5488M5-D、NF5488A5
4戴尔R740、DSS8440
5英伟达NVIDIADGX
6联想ThinkSystemSE350
7清华同方同方超强G858
8新华三H3CUniServerC5
9中兴ES60OSMEC
10杰和EN4B、ISC-661
11思科UCSC480
12依图原子系列云端服务器
13宝德PR492OP
14安擎EG630G-G10、EG820G-G20
15CyancloudSYS-S424G、SYS-S438G
16华硕ProE500G6
17中科云达DGX-2、S9220-HGX
18凌炫GR2020、GR4020
19AMAXMatrixAI系列
20超微SYS-1029GQ-TRT
21正昱P800S、GS995
22迎达TS5388GV4、RS5288GV4
23正睿ZI2C4S7-8294-TC4
24强氧GS4210、GS2204
25金品KG4210-G2
资料来源:智研咨询整理
人工智能服务器正在快速成熟和完善中,结合整个人工智能技术和服务的发展,未来人工智能服务器会重点在软硬件平台融合、低功耗设计、智能边缘计算等领域产生新的突破。特别是随着量子计算、类脑芯片等新一代人工智能计算加速技术的兴起,人工智能服务器的设计与实现可能会产生颠覆性的变化。总之,人工智能服务器作为提供计算能力的核心要素,都是人工智能研发应用体系中不可或缺的组成部分,它的良性发展势必会为整个人工智能产业的成长奠定坚实的基础。