MNN是一款全平台轻量级高性能的深度学习引擎，支持多种模型格式和丰富的网络结构，提供iOS、Android、Windows等平台的部署，并在CPU、GPU上进行优化，具有模型压缩和量化功能，便于在移动设备上实现高效的AI推理。
移动端模型部署框架
1. MNN
https://www.yuque.com/mnn/cn/about
MNN是全平台轻量级高性能深度学习引擎，广泛支持了阿里巴巴在计算机视觉、语音识别技术、自然语言处理等领域的70多个AI应用场景，包含淘宝搜索、拍立淘、淘宝直播、AR导购等，日调用量达十亿量级。
整体特点
轻量性
● 主体功能（模型推理CPU+GPU）无任何依赖，代码精简，可以方便地部署到移动设备和各种嵌入式设备中。
○ iOS平台：功能全开的MNN静态库 armv7+arm64大小12MB左右，链接生成可执行文件增加大小2M左右。可裁剪主体功能后静态库大小6.1M ，链接生成可执行文件增加大小 600 KB。
○ Android平台：主体功能 armv7a - c++_shared 动态库大小800KB左右。
● 支持采用 Mini 编辑选项进一步降低包大小
订阅专栏 解锁全文
扫一扫
356
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
