阿里巴巴推断框架MNN在iOS上的使用小结

MNN介绍

端侧智能现在已经不是新鲜话题，不管是从数据安全出发，还是从实时性能考虑，端侧深度学习算法推理都有其不可替代的优势。之前已经有一段时间的端侧推理框架热潮，google、Facebook、百度、腾讯、小米以及一些名气不大但是实力很强的小公司，都开源了自家的端侧推理框架，阿里MNN在18年年底开源，有后来居上的趋势和决心，不仅工程结构的完备性和规范性很好，开发团队和应用场景也有一定的优势。

MNN是一个轻量级的深度神经网络推理引擎，在端侧加载深度神经网络模型进行推理预测。目前，MNN已经在阿里巴巴的手机淘宝、手机天猫、优酷等20多个App中使用，覆盖直播、短视频、搜索推荐、商品图像搜索、互动营销、权益发放、安全风控等场景。此外，IoT等场景下也有若干应用。

目的

之前在两个手机上跑了一下MNN的benchmark，结果如下

CPU优化的效率看着还是蛮喜人的。

作为应用开发者，我们对常用的前端框架做了一个封装，包括coreml、NCNN、MACE等，统一接口输入和输出，以及cvtColor、r