揭秘英特尔AI芯片如何做到比H100训练快40%、推理快50%

201 篇文章 0 订阅
201 篇文章 0 订阅


英特尔,开始正面硬刚英伟达了。

深夜时分,英特尔CEO帕特·基辛格激动展示全新AI芯片Gaudi 3,引领未来科技潮流,开启智能新篇章。

4f302f807388c59a5df4fe0f250ada48.jpeg

他为什么开心到现场直接蹦迪?

看下Gaudi 3的性能结果,就一目了然了:

  • 训练大模型:比英伟达H100快40%
  • 推理大模型:比英伟达H100快50%

985535baa111da7af27ba09a17577f9a.jpeg

不仅如此,虽然基辛格没有在现场给出直接的数据,但他还表示:

Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更好。

2adecf550c8fa40bd2ba529602d33614.jpeg

如此直面对标英伟达,到底效果如何,我们继续往下看。

硬刚英伟达的Gaudi 3

英特尔透露,Gaudi 3已在Llama上完成测试,展现出卓越性能,能够高效训练与部署AI大模型。其支持的文生图Stable Diffusion与语音识别Whisper等应用,均展现了强大的实力,为AI技术的发展注入了新动力。

2221dd5307e20d918b6a4444280a52f6.jpeg
c3f7d3376f6a26993225df07319d9e13.jpeg

基辛格现场展示集成最新英特尔芯片的AI PC,多任务处理能力卓越,如邮件处理迅疾如风,展现强大技术实力。

2f56b18e156345f48a18b71fb185be12.jpeg

再如语音处理

da22d85f0faeb5aff8a176568e3a13b7.jpeg

以及图像渲染

cb964d5a9d84c0d8dd7c1bd04a9c575c.jpeg

英特尔演示操作的同事还非常调皮地展示了用AI PC生成的卡通版基辛格:

89857d5aa2ff40e7c3d3fa7132b91a6a.jpeg

Gaudi 3采用先进的5纳米工艺,相较于历代Gaudi,性能显著提升,具体对比详见下表,展现其卓越性能。

6ea849eea309c6ef49b287199b16f71a.jpeg

5d668cc38fc4c54a3549c4f8839c4105.jpeg

英特尔宣布,备受瞩目的Gaudi 3芯片将于今年第三季度大规模供货,戴尔、惠普及超微电脑等业界巨头均将采用此芯片,共同开启新一轮计算革命。

至于具体的价格,目前英特尔方面还并未透露。

令人惊讶的是,Gaudi 3仅是英特尔Vision活动中发布的众多精彩产品之一,其创新实力不容小觑,更多精彩值得期待!

Xeon,步入第六代

没错,去年年底英特尔刚刚上市第五代Xeon,仅时隔数个月,第六代Xeon又来了!

(英特尔这次还真没有挤牙膏f56736de43c66cb08de791a2146f5ca5.jpeg

在现场,基辛格还亲切地叫它“little baby”

effff55f80fa9a7ad3a9c6a83a30a07f.jpeg

第六代Xeon惊艳登场,融汇Sierra Forest与Granite Rapids两大先进架构,引领计算新纪元,性能卓越,值得期待!

Sierra Forest精巧融入英特尔更小、低功耗的E-cores,呈现卓越能效;而Granite Rapids则汇聚强大性能的P-cores,构筑顶尖算力。两大架构相辅相成,为高效能与强性能树立新标杆。

基辛格在现场称二者像双胞胎

ff2f4a35087b8f6bc686d79c09848fc3.jpeg

英特尔Xeon 6处理器采用Sierra Forest架构,实现了机架密度的显著跃升,高达2.7倍的提升,为数据处理能力带来质的飞跃。

客户能以近3:1的比例替换旧系统,大幅降低能耗,帮助其实现可持续发展目标。

英特尔Xeon 6处理器搭载Sierra Forest架构,独具匠心,支持MXFP4数据格式软件,为数据处理带来前所未有的速度与效率。

相比使用FP16的第四代Xeon处理器,新方案可将token延迟时间缩短至原来的六分之一,轻松驾驭700亿参数的Llama-2模型,实现高效运算,引领技术新风尚。

ac901903387b87c8e7d184d576c16c90.jpeg

至于英特尔Xeon 6处理大模型的速度到底有多快,基辛格做了更加直接的对比。

他将第四代、第五代和最新的第六代Xeon放到了一起,来了一个现场速度的大比拼。

5abec59713338de848b2f300b50e94d0.jpeg

从直观的生成速度来看,第六代Xeon明显要比“前任们”快上许多。

具体到精确的延时数值,第六代Xeon运行Llama 2 70B只有82ms

871bed90ef8dabf360705ef2b3dabc8f.jpeg

同等条件下,第六代Xeon与“前任们”的延时数值对比如下:

015adcc2a8f446e48d680dc6742b9d73.jpeg

备受瞩目的Sierra Forest架构第六代Xeon处理器,已定于今年第二季度惊艳登场,引领行业革新潮流。

网友揭秘英特尔“秘方”

这场硬刚英伟达的发布会,同样也激起了不少网友们的热议。

例如Gaudi 3封装的一处细节,即使用HBM2e存储芯片,有网友对此表示惊讶:

他们使用的是HBM2e,这是英伟达A100在2020年使用的。

英特尔原计划采用最先进的HBM3e技术,然而受限于供应短缺,遗憾错失充足订单,错失此次技术革新的良机。

04f2bd07ab683341852d6971e6337711.jpeg

对此,这位网友进一步表示:

这是英特尔的秘方之一。

他们总能靠旧技术赶上/超越新技术,直到当前的技术在生产、获取和集成上变得更容易。

英特尔作为半导体产业的先驱,其制造优势在业界独树一帜,几乎囊括了芯片产业的全部资源和核心能力,是其在半导体领域保持领先地位的关键所在。

但何时能够和英伟达全面一较高下?这也是不少网友关注的问题:

英特尔强势挑战H100/H200,我们翘首以盼,究竟何时能与英伟达顶级“核弹”B200一较高下?期待这场巅峰对决!

或许答案只有交给时间来回答。

英特尔此次发布,无疑为AIGC时代的算力注入了新的活力,提供了更加高效、优质且经济的选择,是“快好省”的绝佳选项。


 

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

  • 4
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

科技互联人生

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值