一大独大格局下,数据中心GPU的市场机会

a0350ba730634076a01f74f3f0779eef.jpeg

一个原本高度成熟的市场,由双寡头走向渐有百花齐放之势,在任何领域应该都相当少见。本期封面故事从一些GPU新晋企业的动态出发,讨论如今的数据中心GPU的市场现状和未来趋势。

1993年,英伟达刚建立的时候,PC和专业图形加速芯片市场热闹非凡。但在10年之后(2003年),该市场只存活下英伟达和ATI((即后来的AMD))两家企业。

此后,GPU的应用场景也从单纯的游戏图形渲染,走向了企业HPC、超算、数据中心加速,以及人工智能(AI)应用。在过去两年里,《国际电子商情》一直在关注英伟达的财报,自去年年中开始,英伟达数据中心业务的营收正式超过游戏业务——数据中心自此成为了英伟达最赚钱的业务部门。

值得一提的是,随着消费电子全面步入下行期,英伟达FY23 Q3(2023财年第三季度,截至2022年10月30日)游戏业务营收大幅滑坡,同比跌幅超过50%,但数据中心业务依旧坚挺——营收为38.33亿美元,同比增长31%。数据中心业务营收占到了英伟达该季度总营收的64.6%。

自本世纪初,全球GPU市场形成双寡头局面,在后来的十多年里,GPU、显卡被英伟达和AMD把持。但近两年来,在全球GPU市场尤其是中国市场,有许多企业向这一领域进军。去年末,市场研究机构Jon Peddie Research统计数据表明,全球总共有18家企业正在开发或制造GPU。当然,这个数据还包括了移动市场,以及上游的GPU IP企业。不过,即使不统计这些企业,来自PC和数据中心市场的玩家依然有11家,包括了Intel、壁仞、瀚博、天数智芯、芯动、沐曦、摩尔线程等等。

一个原本高度成熟的市场,由双寡头走向渐有百花齐放之势,在任何领域应该都相当少见。本期封面故事从一些GPU新晋企业的动态出发,讨论如今的数据中心GPU的市场现状和未来趋势。


GPU的“新生”与“掠夺”

前两年,在“GTC英伟达开发者大会”的报道中,《国际电子商情》就谈到过:“对英伟达而言,这些年属实是‘黄金时代’——从2015年开始,英伟达的营收和净利润都出现了飙升,这两个值甚至曾一度增长至三位数——英伟达的业绩表现让其看起来不像是一家成熟企业,反倒像是一家刚刚成立的新公司。”

英伟达业绩的井喷式增长,与新业务拓展有着密不可分的关系。观察英伟达过去的股价变化,可以看到从1999至2015年期间,这家公司的股价一直都不温不火,到2015年其股价仅为4-5元美元。但2021年,该公司的股价一度飙升突破300美元(详见图1)。在2015-2021年期间,全球GPU市场发生了什么?

a66dd91f4fb283619b6362ad62ebf677.png

图1:英伟达股价翻了几十倍

从2016财年开始,英伟达的年报中开始频频出现“Datacenter(数据中心)”这个词,过去该业务一直被称为“Enterprise(企业)”业务。虽然现在英伟达数据中心业务营收超过公司总营收的六成,但是该业务价值占比的迅速提升也与消费电子市场下行有关。整体来观察,数据中心业务的攀升趋势持续了几十个季度。

如今,数据中心和企业GPU是英伟达最大的营收来源。根据IDC的数据显示,到2021年,英伟达占据了全球91.4%的企业GPU市场份额,排第二的AMD市场份额仅有8.5%。从PC游戏图形加速到数据中心,GPU这一路是怎么发展的?

GPU是一种包含大量并行计算单元、擅长浮点运算的加速器。它不仅能满足3D图形渲染的需求,而且也能满足HPC、AI之类的计算需求。2007年,斯坦福大学计算机科学教授Ian Buck开发了CUDA——这是一个可对GPU编程的平台。或许不能简单地认为,是CUDA把GPU带到了游戏和专业视觉之外,让显卡能为各行各业所用;但CUDA已经成为全球开发者现在的学习热点,也是英伟达HPC、AI乃至元宇宙(Omniverse)的重要组成部分。与此同时,CUDA的盛行又把开发者锁在了英伟达的生态内。

从GPU架构层面来看,游戏GPU去掉一些图形渲染固定功能单元,就能为数据中心的各类应用加速。不过,英伟达显然在运营层面把游戏和数据中心当做两个独立业务,虽然两类GPU的芯片架构相似,但是其市场、客户、应用方向截然不同。同时,随着数据中心业务地位越来越重要,其GPU也有了自己的一些特性,甚至这也将影响到图形GPU。比如,英伟达在去年发布的Hopper架构,偏重Transformer引擎的加入,着力于NLP(自然语言处理)。

从大分类来看,数据中心GPU属于加速器类别,它是围绕CPU的加速器。从数据中心服务器内部的不同器件、芯片的价值占比来看,加速器的价值占比远不及CPU。Ark Invest此前给出的数据是,2020年CPU占到了所有处理器芯片价值的83%,也就是说GPU能够获得的价值连17%都不到。

e00c43f4f1769db1abc09aee68c66df3.png

图2:2020-2030年服务器内器件价值占比(单位:美元) 图片来源:Big Idea 2021, Ark Invest

从英伟达和Intel的营收规模差异上就能看出。即使Intel正面临巨大的市场和竞争压力,过去一年里这家公司的DCAI(数据中心与AI)业务营收,也依然远超英伟达的数据中心业务营收。这意味着,CPU比GPU更赚钱,只不过,该局面可能很快就要发生变化。Ark Invest认为,2020年之后的10年内,CPU在数据中心服务器中的价值占比,将大幅下滑至40%(图2)。

如果将CPU、存储、加速器和其他类别都考虑进来,预计到2030年加速器类别市场价值将达到410亿美元,CPU的市场价值会小幅收缩至270亿美元。Ark Invest表示:“包括GPU、TPU、FPGA等在内的加速器,将会适用于对计算性能有需求的应用,比如AI、数据分析、药物发现、云游戏等。”

当然,“加速器”也不全然是指GPU,它还包含FPGA、AI芯片和各类ASIC。但“在未来5年内,GPU将持续统领加速器市场,这与其可编程和软件栈特性有关”。Valuates Reports的数据中心加速器市场报告中也提到,GPU在2018年已占到数据中心加速器市场整体的85%。

关于数据中心加速器市场的成长空间和市场价值数据,不同分析机构给出的数据量级差别甚大,CAGR(年复合增长率)数据也不一而足。但所有预测都认为,在未来十年内,该市场CAGR将维持两位数的增长,例如前面的Ark Invest就预测称,2020-2030年期间,数据中心加速器将有近7倍的成长。


新一轮的“百花齐放”

电子产业的绝大部分子领域,只有在发展早期才有众多的市场参与者,整个行业会呈现出“百花齐放”的特点。只有具备巨大的成长空间,该市场才会吸引诸多参与者进入。

现阶段,无论从哪个角度来看,数据中心加速器市场都相当吸引人。换言之,GPU从PC图形渲染加速器摇身一变,成为数据中心各类应用的加速器,这类芯片从原本高度成熟的领域,拓展到了有巨大发展空间的新领域。

即使该市场的新晋参与者会面临英伟达这样的巨擘,也依然有企业愿意参与到这个市场中来。这主要有两方面的原因:一方面,与中美贸易摩擦、全球半导体市场走向区域化的趋势有关,中国比全球其他地区有更迫切的芯片自主化需求,对中国的新进企业而言,无论是从市场还是技术的角度来观察, GPU都是比CPU相对更容易切入的方向;另一方面,这个市场也的确具备足够的吸引力。

实际上,不只是新晋参与者表现出相当的积极性,就连Intel的巨头也在发力数据中心GPU业务。近一年来,Intel针对Xe-HPC架构显卡的市场推广不遗余力, CPU在数据中心市场的价值占比日趋下降,Intel在数据中心市场亟待寻求业务拓展的机会。

除了数据中心市场之外,也有企业试图进入已被英伟达和AMD掌控,且高度成熟的PC显卡市场。在大部分情况下,这些市场的产品都是由数据中心市场带来的副产品。在GPU架构走向模块化、可弹性缩放之后,这种尝试在技术上完全可行。当然,像中国的芯动科技、摩尔线程等企业,他们布局PC显卡是有半导体自主化、国产化需求的大背景。

在新晋参与者中,Imagination是极具代表性的一员。20世纪90年代,Imagination也是逐鹿图形加速卡市场的企业之一,后来该公司主要业务转战到移动市场。把Imagination称为“新晋市场参与者”,是因为此前其GPU业务并未涉足数据中心市场。

在2017年私募基金凯桥资本(Canyon Bridge)宣布收购Imagination以后, Imagination的历史翻开了新的篇章。Imagination当前的GPU设计基于模块化设计方案,通过相同架构的核心进行规模化缩放,覆盖从手机到数据中心的各类应用——这是非常契合当代GPU设计理念的方案。

“从IP的角度来看,我们认为这种转变的关键在于,确保硬件能够以可扩展的方式来构建,以便为未来几年留出更多的性能余量。”Imagination Technologies首席营销官David Harold在接受《国际电子商情》分析师采访时表示:“无论是当下还是未来,PC和数据中心都是Imagination的重要市场。我们认识到,移动5G应用正在推动连接数的大幅增加,这也对合格、可靠的云解决方案提出了更高的需求。在CXT架构的数据中心配置的基础上,我们正帮助客户以可持续、高效的方式,将光线追踪技术整合到云解决方案中。C系列已经在这一市场提供授权,计划未来18个月内就会推出相应的芯片。”

另外,Imagination中国区董事长白农在“2022全球CEO峰会”现场曾提到,对于Imagination而言,中国云游戏市场是高速发展的四个市场之一。因此,该公司着眼的“数据中心”GPU包含图形渲染,这也是Imagination的长项。“我们认为GPU将是数据中心系统的基本组成要素,这不仅是因其3D图形处理能力,还在于GPU的高度并行计算能力。尤其是,后者在一对多的场景中是必不可少的工具。”

去年,沐曦联合创始人、CMO孙尔俊在接受《国际电子商情》采访时曾提到:“以通用计算为切入点是考虑到了科学计算、机器学习和AI训练等方面迫切的市场需求,新的一些渲染场景的增强也对计算部分提出了新的需求,甚至渲染与计算也在进行着密切的融合。”在应用方向上,沐曦的GPU涉及到人工智能、智慧城市、数据中心、云计算、自动驾驶、生命科学、数字孪生、元宇宙等。

社会数字化转型的大环境,本身基于手机、IoT、AI、大数据的发展,以及它们对IT、通信与数据中心加速器的需求。正如沐曦列举的应用方向那样,GPU有着广泛、巨大的市场潜力。在巨大的市场潜力的推动下,新进参与者纷纷公开了GPU产品动态,例如瀚博半导体在“WAIC 2022世界人工智能大会”上宣布将推出GPU产品;沐曦也对外表示,未来公司将推出能做渲染的GPU,以全面覆盖高性能GPU市场;壁仞科技发布首款通用GPU芯片BR100、自主原创架构……


GPU市场切分,以及AI热

去年,英伟达创始人兼CEO黄仁勋把数据中心分成了6个大门类:超级计算中心、企业计算数据中心、超级集群(hyperscaler)、云计算数据中心、AI工厂、边缘数据中心。Seeking Alpha曾对这六大板块做过详细分析,大部分面向数据中心的大芯片可依此来分类。

超算数据中心

2021年全球TOP 500超算中有70%采用英伟达GPU,且后来的新系统对英伟达GPU的采用率还在提高。这个超算数据中心的应用包括量子计算、气候预测、化石能源开采、分子建模、物理模拟、空气动力学、核聚变研究等。

企业数据中心

企业数据中心是企业内部运营的数据中心,用于IT、财务、医疗健康或者客户数据支持等项目。这一领域的容量很大,也是目前市场争夺的焦点。

超级集群

此前,IDC针对超级集群数据中心做出过定义,它是占地超过1万平方英尺、超过5,000台服务器的数据中心,它的基础设施规模大且可灵活性缩放,能满足不同客户的需求,Meta、谷歌、阿里巴巴等科技巨头都有这类数据中心。

云计算数据中心

云计算数据中心是通过云来提供服务的基础设施,应用方向如云游戏、自动化客户服务、高级医疗成像等。Canalys的数据显示,2021年英伟达云计算数据中心的市场份额达33%。

AI工厂

AI工厂是数据中心的新类别,某些企业开始注重数据的利用,借助AI来做供应链优化、生产制造的预测性维护和流程控制。英伟达的典型客户之一宝马汽车厂的生产线和供应链,就有机器人、AI、数字孪生在AI工厂的充分利用。

边缘数据中心

边缘数据中心是相对小型的数据中心,与端侧用户更为接近,达成数据传输的低延迟和高速度。这类数据中心的应用更加广泛,诸如仓库、零售、汽车、机器人、智慧交通等。

在这6大门类上,英伟达横向可提供芯片和系统/解决方案产品,纵向还可提供自下而上的全栈软件。不过,笔者认为,虽然英伟达联合OEM厂商或合作伙伴在某些市场达成了先发优势,但是新晋参与者在潜在市场方面的机会仍然非常大。

值得一提的是,在不同维度的应用切分上,AI是GPU的重头戏。英伟达Hopper新架构的升级重点也明确地偏向于AI上,这与现阶段AI的大火有很大关系。据Omdia数据显示,单在AI处理器这个门类上,2021年英伟达GPU就占到了全球AI处理器营收的80%以上(不含CPU),这远超过AMD、谷歌、Intel等市场参与者。

而AI芯片本身的市场需求也水涨船高。这些年来,无论是初创公司,还是老牌半导体行业企业,都在想方设法加强AI芯片的布局——广义上,GPU也属于AI芯片的一个分支。Ark Invest的预测显示,2021-2025年,数据中心在AI处理器(包括GPU,但不包括CPU)上的花销将增长4倍,金额从50亿美元上升到220亿美元。


英伟达之外的市场

统计机构的数据可知,数据中心GPU还有数倍成长空间,英伟达只占据了潜力市场的一部分。英伟达在AI训练方面的市场地位几乎不可撼动,但2021年Cassell和Omdia团队在一份报告中提到,未来几年内其他芯片制造商将吞噬英伟达的市场份额,因为其他类型的AI芯片的市场接受度正越来越高。

这份报告指出,预计到2026年,AI应用方向的GPU所占份额将跌至54%,这个数值在2021年还高达82%。在AI芯片方面,GPU暂时占据了市场价值的大头,随着全球范围内涌现出非常多AI芯片企业,未来还会出现更多的FPGA、TPU及各类AI专用芯片。

因此,英伟达在数据中心加速芯片方面正面临着竞争压力,毕竟这一市场还远未成熟,未来有被颠覆的可能性。即便如此,在《国际电子商情》分析师过去的采访中,绝大部分市场参与者仍表示,其对英伟达的存在感到巨大压力。

2021年,瀚博在推出AI推理芯片时曾表示,英伟达GPU在AI训练赛道上已具备相当的生态优势,所以瀚博入市的切入点是DSA方向的AI推理芯片。在《国际电子商情》杂志2021年10月刊的封面故事采访中,Graphcore坦言作为数据中心AI芯片企业,公司正在努力拓展应用领域,正基于现有人力物力,将发展方向聚焦到互联网、金融、研究、医疗健康和其他五个部分,无法像英伟达那样,将覆盖到那么广的生态范围。

在每年的GTC大会上,英伟达宣布又更新了某个领域的某些软件库,对应性能动辄x倍提升,这都在加大数据中心GPU赛道的难度。

但为何仍有那么多企业想要进入这一市场?孙尔俊表示:“GPU在人工智能、科学计算、金融、工业等重点领域都有大量应用场景,相比专用的AI芯片,GPU的通用性更强,落地场景更丰富,应用领域更广阔。大量资本涌入GPU赛道,可反映出市场普遍看好GPU。”同时,他还提到了中国政府政策的推力,尤其“东数西算”工程,以及数字经济的前景。

去年,瀚博宣布要做GPU时,《国际电子商情》分析师曾问过瀚博半导体创始人兼CEO钱军“为什么选择进入这样一个压力更大的赛道?”钱军回答道:“过去,瀚博聚焦视频的计算处理,而现在还想做‘像素的产生’,我们会像前期做AI一样,先选择一些行业、领域去做。”

Imagination还有一个针对市场的观察预设,David说:“异构计算在崛起,越来越多的企业正做定制化芯片。”这是在英伟达之外,数据中心GPU的市场机会。这可能与Imagination作为IP供应商的角色有关。

数据中心市场价值从CPU转向加速器,体现出摩尔定律停滞的无奈。CPU这种更依赖于摩尔定律向前发展的处理器,在HPC方向上正面临着无法满足数字经济高速发展需求的尴尬,所以具备数据高度并行处理能力的加速器变得炙手可热。

GPU芯片在数据中心市场还是一个新生儿,针对数据中心GPU的竞争才开启第一局,英伟达暂时在这一局里占了优势,但这不意味着其他市场参与者毫无胜算。

END

欢迎加入Imagination GPU与人工智能交流2群

bce55e2bd21add8ae3efce19dda3a92d.jpeg

入群请加小编微信:eetrend89

(添加请备注公司名和职称)

推荐阅读

对话Imagination中国区董事长:以GPU为支点加强软硬件协同,助力数字化转型

【视频】Imagination中国区技术总监全面解读 IMG DXT GPU

6395c40f548a93f0ac8db00f6e712f10.png

Imagination Technologies 是一家总部位于英国的公司,致力于研发芯片和软件知识产权(IP),基于Imagination IP的产品已在全球数十亿人的电话、汽车、家庭和工作 场所中使用。获取更多物联网、智能穿戴、通信、汽车电子、图形图像开发等前沿技术信息,欢迎关注 Imagination Tech!

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值