对标英伟达Blackwell,华为达芬奇的压力好大!

c4bb985f0513ea6c53ba611f6279ffcf.png

417e280e9a00da21554980343556c58a.png

288a653bd886672a050f183a31fbb3dd.png




大数据产业创新服务媒体

——聚焦数据 · 改变商业


在信息爆炸的AI时代,数据洪流如同奔涌的江河,急需强大的动力引擎来驱动其潜能。而GPU,这个曾被视为图形渲染领域的专属硬件,如今已华丽变身,成为AI时代的强大引擎。它们不再是简单的图像处理单元,而是智能计算的加速器,为AI的飞速发展提供了澎湃动力。

GPU芯片架构的演进,是这股动力的关键所在。架构,就像GPU的DNA,决定了GPU的性能、效率和应用范围。从早期的简单图形处理,到如今的AI大模型训练和推理,每一次架构的迭代,都是对GPU潜能的深度挖掘。架构的创新,让GPU在AI时代焕发了新的生命力。

GPU芯片架构的设计,涉及到核心数量、内存带宽、能源消耗等多个方面。一个优秀的GPU架构,能够实现高性能计算的同时,保持较低的能耗,满足AI时代对计算效率的苛刻要求。

英伟达的GPU,之所以能够取得如今的垄断地位,其芯片架构的创新居功至伟。那么,英伟达芯片架构是怎么一步步发展迭代的,华为的达芬奇能不能追得上,有没有后发优势?接下来,我们尝试就这个问题来进行探讨。

从GeForce到Blackwell,英伟达是如何一步步走到今天的?

在半导体行业的舞台上,英伟达以其GPU芯片架构的创新,一直走在GPU技术浪潮的前沿。接下来,我们来看看,从GeForce到Hopper,英伟达是如何一步步铸就其在高性能计算领域的领导地位的。

英伟达的起步与GeForce系列的诞生密切相关,1999年,GeForce 256以其硬件T&L技术,为3D图形处理设定了新的行业标准。随后,英伟达推出了Tesla系列,这一转变不仅是产品线的扩展,更是战略方向的调整。Tesla GPUs在高性能计算领域崭露头角,其应用案例包括著名的"折叠@home"项目,该项目利用分布式计算能力研究蛋白质的折叠过程。

Fermi的洪荒之力

2010年,英伟达的Fermi架构GPU,GTX 480,以其512个CUDA核心和惊人的3亿晶体管数量,将GPU的计算能力推向了一个新的高度。Fermi架构的推出,不仅是晶体管数量的增加,更重要的是CUDA技术的发展,它为GPU通用计算提供了强大的支持,开启了GPU并行计算的新纪元。

Kepler的能效之舞

2012年,Kepler架构的GTX 680问世,它在每瓦性能上实现了显著提升。Kepler架构通过动态调整核心频率和电压,实现了性能与功耗的平衡。这一架构的能效优化,使得GPU在数据中心等环境中得到了广泛应用,例如在亚马逊AWS的EC2计算实例中,就采用了基于Kepler架构的GPU。

Maxwell的智能调度创新

2014年,Maxwell架构的GTX 980发布,它在每瓦性能上比前代产品提升了20%。Maxwell架构的智能调度技术,通过优化内存访问和执行效率,进一步提升了GPU的性能。Maxwell架构的GPU在AI边缘计算领域也有所作为,例如在自动驾驶汽车的传感器数据处理中。

Pascal对深度学习的全面拥抱

2016年,Pascal架构的Tesla P100 GPU问世,它采用了16nm FinFET工艺,拥有高达3584个CUDA核心。Pascal架构的推出,标志着英伟达全面拥抱深度学习。P100 GPU在AI研究和应用开发中被广泛应用,例如在谷歌的DeepMind项目中,P100 GPU就发挥了关键作用。

Volta引入了Tensor Core

2017年,Volta架构的Tesla V100 GPU发布,它引入了Tensor Core,专门为深度学习训练和推理优化。V100的发布,使得AI训练的速度比前代产品快了数倍。V100 GPU在多个领域取得了显著成就,包括在斯坦福大学的研究中,V100 GPU加速了蛋白质结构预测的计算过程。

Turing引入了实时光线追踪技术

2018年,Turing架构的RTX 2080 Ti显卡问世,它引入了实时光线追踪技术,为游戏和电影渲染带来了革命性的变化。Turing架构的推出,不仅提升了图形渲染的质量,也为3D建模和可视化提供了强大的支持。在电影《复仇者联盟4:终局之战》的制作中,Turing GPU就发挥了重要作用。

Ampere,A100的核心

2020年,Ampere架构的A100 GPU发布,它采用了7nm工艺,拥有6912个CUDA核心和432个Tensor Core。A100在AI训练和推理性能上,相比前代产品提升了20倍,进一步巩固了英伟达在AI和HPC领域的领导地位。A100 GPU在多个高性能计算项目中取得了突破,包括在橡树岭国家实验室的Frontier超级计算机中,A100 GPU为模拟核聚变反应提供了关键计算能力。

Hopper的内存架构创新

2022年,Hopper架构的GPU发布,它在性能和效率上再次实现了飞跃,引入了新一代的Tensor Core和更高效的内存架构。Hopper的推出,标志着英伟达在AI芯片领域的最新进展。Hopper GPU在AI领域的应用前景广阔,预计将在自然语言处理、图像识别等多个领域取得突破。

Blackwell,专为AI大模型而生,采用第二代Transformer引擎

进入2024年,英伟达的Blackwell架构代表了该公司在GPU芯片设计上的最新进展。作为继Hopper架构之后的新一代产品,Blackwell带来了一系列重大的性能提升和技术革新。Blackwell GPU专为应对AI时代对计算能力的巨大需求而设计,特别是在处理万亿参数规模的AI模型方面。

Blackwell架构的GPU采用了双芯片配置,通过高带宽接口(NV-HBI)实现两个GPU芯片的高效互联,支持高达10TB/s的带宽。这种设计显著提升了整体性能,同时保持了良好的能效比。Blackwell GPU还配备了高达192GB的HBM3e内存和超过8TB/s的内存带宽,为处理大规模AI模型提供了充足的内存容量和带宽。

在AI训练和推理性能方面,Blackwell GPU相较Hopper架构的GPU实现了显著提升。其训练性能是Hopper GPU的4倍,推理性能更是高达30倍。这种性能的飞跃得益于Blackwell GPU采用的第二代Transformer引擎和定制的Tensor Core技术,这些创新为大型语言模型(LLM)和专家混合模型(MoE)的推理过程带来了显著加速。

此外,Blackwell架构还引入了第五代NVLink技术,为GPU之间的高速互联提供了支持。这使得Blackwell GPU能够支持多达576个GPU的集群,为构建超大规模AI系统提供了可能。

英伟达的GPU芯片架构演进,是一段由技术创新驱动的历史。每一次架构的更新,都伴随着性能的大幅提升和能效的优化。从Fermi的诞生到Hopper的最新进展,英伟达不断突破技术极限,推动着整个行业的发展。这不仅是技术的胜利,更是对未来计算模式的探索。

英伟达GPU架构的未来发展方向,将继续围绕性能提升、能效优化和技术创新展开。随着AI技术的不断进步和应用场景的不断扩展,英伟达的GPU架构将继续向着更高的计算效率、更强的AI处理能力和更优的图形渲染性能方向发展。同时,英伟达也在积极布局云计算和边缘计算,通过DGX Cloud等云服务,为AI研究和应用提供了灵活、高效的计算资源。

在AI计算的长远布局上,英伟达不仅关注GPU架构的优化,还着眼于整个AI生态系统的建设。通过CUDA和其他软件开发工具,英伟达为开发者提供了强大的支持,推动了AI技术的发展和应用。此外,英伟达还与科技巨头如苹果合作,共同推动AI和机器人技术的革新,展现了其在AI领域的深远影响力和领导地位。随着技术的不断进步和市场需求的不断扩大,英伟达的GPU架构将继续引领AI计算的未来。

华为达芬奇,一个来自中国的对手

在AI芯片架构领域,英伟达有一个来自中国的对手——华为达芬奇。

华为达芬奇架构作为华为自研的AI计算架构,虽然相较于业界其他一些架构起步较晚,但已经展现出了强大的竞争力和创新能力。

接下来,让我们简要回顾一下华为达芬奇的关键发展节点:

1. 2018年:华为首次公开提出达芬奇架构,并推出基于此架构的AI芯片Ascend 310(昇腾310)。这是达芬奇架构的首次亮相,标志着华为正式进入AI芯片领域。

2. 2019年6月:华为发布麒麟810芯片,这是首款采用达芬奇架构NPU的智能手机SoC芯片。麒麟810的AI性能在当时的AI Benchmark榜单中表现卓越,证明了达芬奇架构的实力。

3. 2019年8月:华为发布AI芯片Ascend 910,这是一款面向云端AI训练和推理的高性能AI处理器。Ascend 910的发布,进一步丰富了华为AI芯片的产品线。

4. 2020年:华为继续推进达芬奇架构的发展,推出了Ascend 系列的其他产品,包括Ascend-Nano、Ascend-Tiny、Ascend-Lite、Ascend-Mini和Multi-Ascend 310等,覆盖了从端侧到云端的全场景AI应用。

5. 2023年:华为算力GPU的出货量显著增长,预计到2024年将达到几十万片的规模,这表明华为达芬奇架构的AI芯片在市场上已经取得了一定的认可和应用。

尽管华为达芬奇架构起步较晚,但其发展速度和技术创新能力不容小觑。

华为达芬奇架构之所以能在AI芯片领域异军突起,其核心竞争力在于创新的3D Cube计算引擎。这一引擎专门针对AI计算中最为关键的矩阵运算进行优化,通过三维立体的计算模式,实现了数据并行处理的质的飞跃。在3D Cube的加持下,每个AI Core在一个时钟周期内能够执行高达4096个MAC(乘-累加)操作,这样的算力密度在传统CPU和GPU中是难以想象的。

这种设计不仅提升了算力,更在单位功耗下实现了AI算力的显著提升,这对于功耗敏感的移动设备和需要大规模部署的云端服务器来说,具有极其重要的意义。在AI芯片的战场上,能效比往往决定了一款产品的生死,而达芬奇架构在这方面的表现无疑给了华为一些底气。

除了3D Cube,达芬奇架构的另一个亮点是其集成的多种计算单元,包括向量、标量以及硬件加速器等。这些单元的协同工作,使得达芬奇架构能够灵活处理各种复杂的AI计算任务,从基础的数学运算到复杂的深度学习算法,都能游刃有余。这种灵活性和扩展性,让达芬奇架构能够适应多变的AI应用场景,无论是端侧的智能设备还是云端的大规模计算任务,都能提供强大的支持。

此外,达芬奇架构对多种精度计算的支持,也是其一大优势。在AI训练和推理过程中,不同的任务对数据精度的要求各不相同,达芬奇架构能够根据任务需求灵活调整,既保证了计算的准确性,又避免了资源的浪费,实现了效率和效果的最优平衡。

当然,虽然华为达芬奇在诸多方面作出了自己的特色,但面对强大的英伟达,依然显得弱小。

GPU芯片架构还远没有到“完全体”

GPU芯片架构的演进是一场永无止境的技术革新之旅,尽管已经取得了显著的进步,但袁还没达到至善至美的"完全体"形态。那么,芯片架构演进的方向是什么呢?以下是GPU芯片架构发展中值得关注的几个方向:

1. 统一架构(One Architecture):GPU架构正朝着能够在不同计算环境中提供一致性能和功能的方向发展。这意味着,无论是在数据中心的大型服务器,还是在边缘设备上,同一款GPU架构都应具备高效的执行能力。例如,英伟达的Ampere架构就被设计为能够同时支持x86和Arm架构,这使得GPU能够跨平台工作,简化了开发流程并扩大了应用范围。

2. 训练与推理融合:AI芯片的设计越来越注重同时支持训练和推理任务。传统上,训练和推理需要不同类型的硬件优化,但随着技术的进步,正在实现在同一硬件上对两者的高效支持。推理功能的优化特别关键,因为它直接关系到AI模型在实际应用中的响应速度和能效比。

3. 内存容量的增长:随着AI模型的规模和复杂性不断增加,对内存容量的需求也在急剧上升。HBM技术通过3D堆叠多个DRAM层来提供更高的内存密度和带宽。预计到2025年,HBM技术将达到前所未有的容量和带宽水平,这将极大地推动AI芯片的性能提升。

4. 软硬件协同优化:软硬件的紧密结合是实现GPU最佳性能的关键,英伟达的CUDA平台和其GPU硬件之间的协同就是一个典型例子。软件层面的优化可以充分发挥硬件的潜力,而硬件设计时也需要考虑软件的执行效率。

5. 更强的互联技术:GPU之间以及计算节点之间的高速互联,对于构建大规模计算集群至关重要。例如,英伟达的NVLink技术提供了单个节点内GPU间高达数百GB/s的互连带宽,而InfiniBand技术则广泛用于节点之间的高速通信,这对于实现高效的并行计算和数据共享至关重要。

6. 先进封装技术:随着芯片尺寸的缩小和集成度的提高,传统的封装技术已经不能满足需求。先进封装技术,如Chiplet,允许在单个封装内集成多个小芯片,从而实现更高的性能和更低的功耗。预计到2025年,这种技术将在AI芯片中得到广泛应用。

7. 系统级创新:真正的创新来自于对整个系统每一个环节的深入理解和优化,从芯片设计、制造工艺、内存技术到软件工具和开发环境,每一个环节都需要不断创新,以实现整体性能的最优。

8. 快速迭代与性能提升:AI芯片的更新周期正在缩短,以适应快速发展的市场需求。每一代新芯片都在存储、计算和互联方面实现了显著的性能提升,通常比上一代提升1.5到2倍以上。

对于华为来说,要想在AI芯片架构上追赶英伟达,就需要在上述方面发力。华为需要不断优化达芬奇架构,提高其在统一架构下的性能和能效,加强内存和互联技术的研发,以及构建更加完善的软硬件生态系统。通过系统性的创新和快速迭代,才有望逐步缩小与行业领导者的差距,并在未来的AI芯片竞争中占据一席之地。

文:一蓑烟雨 / 数据猿
责编:凝视深空 / 数据猿

f0d6a8c15d7f35c04f3b0c09fe6a69a7.jpeg

60d62554b3912069d466776db8900970.png

e54ed970ab7faf4b541fa2bc8eed9634.png

931584e74576001276efcd70720893ea.jpeg

e83a5e93daf6832876dbce0d29929282.png

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值