MNN推理引擎最新实测,CPU、GPU性能全面领先!

MNN推理引擎在CPU和GPU性能上表现出色,尤其在ARM v8.2环境下,其在通用性、易用性和模型支持上都有显著提升。通过优化模型转换、算子实现和提供丰富的工具,如可视化支持、模型压缩和校验工具,提升了端侧AI的开发效率。尽管端侧AI整体仍处于发展初期,MNN团队致力于推动行业进步,寻求更多创新应用的可能性。
摘要由CSDN通过智能技术生成

但这再也不是当年从2000ms降低到700ms那样的飞跃了。

而如果我们放眼大一些的模型,比如Inception V3,那么情况会是:

又或是打开ARM v8.2的情况下,不论是fp16还是quant,性能都可以有一段跃迁:

你看,可以为业务带来质变优化的点依然存在。而这些,正是我们暂时按下ARM优化的原因。

通用性


除了性能,用户最为关心的指标就是通用性。性能再好,业务模型跑不起来都白搭。而MNN背靠阿里巴巴的众多智能场景,久经各方业务的磨炼,在支持算子的数量、算子实现的质量上,都可谓久经考验。但如果不是MNN的死忠粉,可能都很难意识到,我们在通用性方面下的苦功。

模型转换上,我们没有将Caffe、TensorFlow、TensorFlow Lite的转换转嫁给三方的工具,尽量避免模型格式间转换导致的失败。从开源到现在,在支持的转换算子总量上,MNN翻了一番还多。

算子实现上,我们在计算后端的支持上,应该也是业界最广的。除了前文所述的ARM v8.2,我们在GPU算子的支持上,也不遑多让。

  • 12
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值