四年,AI性能提升17倍!英特尔至强6在最新MLPerf测试中成绩亮眼

点击蓝字

关注我们,让开发变得更有趣

OpenVINO™

最新发布

近日,MLCommons 发布了其行业标准 AI 性能基准套件 MLPerf 推理 v4.1 的结果。英特尔提交了第五代英特尔® 至强® 可扩展处理器的六项 MLPerf 基准测试结果,并首次提交了英特尔® 至强® 6处理器性能核(P核)的结果。与第五代至强处理器相比,英特尔至强6性能核处理器实现了 AI 性能的几何平均值约1.9倍的提升。

最新 MLPerf 结果表明,持续的投入和资源配置对于提高 AI 性能至关重要。纵观 MLPerf 的测试结果,过去四年,英特尔至强处理器的 AI 性能提升了高达17倍之多。步入今年下半年,随着至强6处理器具备广泛可应用性时,我们期待能与客户、合作伙伴一道持续加速其出货和市场应用。

——Pallavi Mahajan

英特尔公司副总裁

兼数据中心与人工智能软件总经理

重要意义:AI 系统在跨多种场景的解决方案的顺利部署,都离不开 CPU 这一关键的硬件。英特尔至强处理器为 AI 推理提供了出色的解决方案,包括经典的机器学习和向量搜索嵌入。

在 MLPerf 推理 v4.1 中,英特尔提交了第五代英特尔至强处理器和至强6能效核处理器在 ResNet50、RetinaNet、3DUNet、BERT、DLRM v2 和 GPT-J 上的结果。与第五代英特尔至强相比,至强6在这六个基准测试中展现出平均约1.9倍的 AI 推理性能提升。英特尔仍是唯一向 MLPerf 提交 CPU 结果的服务器处理器供应商。

自四年前首次提交 MLPerf 结果以来,英特尔 CPU 的 AI 性能表现具备显著提升。与2021年发布的第三代英特尔® 至强® 可扩展处理器相比,至强6在自然语言处理(BERT)上的性能提升高达17倍,在计算机视觉(ResNet50)工作负载上的性能提升高达15倍。英特尔将持续推进 AI 在 CPU 路线图中的进展。例如,通过新的数据类型和效率提升,继续推进英特尔® 高级矩阵扩展 (AMX) 创新。

支持AI客户:最新的 MLCommons 基准测试突显了至强处理器正在为 OEM 厂商提供强大的 CPU AI 服务器解决方案。随着 AI 计算需求的增长,且诸多客户同时运行 AI 和企业工作负载,OEM 厂商正在优先考虑通过提交 MLPerf 的方式,彰显其向客户提供的、搭载至强处理器的系统具备高性能且针对 AI 工作负载而优化。

英特尔在本轮 MLPerf 中支持了思科、戴尔科技、慧与、广达和超微五个 OEM 合作伙伴分别提交的测试结果。每个客户都提交了使用第五代至强可扩展处理器的 MLPerf 结果,展示了其系统对各种 AI 工作负载和部署的支持。

OpenVINO™

---------------------------------------

*OpenVINO and the OpenVINO logo are trademarks of Intel Corporation or its subsidiaries.

-----------------------------

 OpenVINO 中文社区 

微信号 : openvinodev

B站:OpenVINO中文社区

“开放、开源、共创”

致力于通过定期举办线上与线下的沙龙、动手实践及开发者交流大会等活动,促进人工智能开发者之间的交流学习。

○ 点击 “ 在看 ”,让更多人看见

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值