深度学习模型部署介绍(转)

1. NCNN

ncnn（Ncnn Convolutional Neural Network）是一个轻量级的高性能深度学习框架，由腾讯公司开发。它专门为移动设备和嵌入式设备优化，旨在提供高效的推理性能和低内存占用。

ncnn 是腾讯优图实验室首个开源项目，是一个为手机端极致优化的高性能神经网络前向计算框架。

ncnn 从设计之初深刻考虑手机端的部属和使用。无第三方依赖，跨平台，手机端 cpu 的速度快于目前所有已知的开源框架。

基于 ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行，开发出人工智能 APP，将 AI 带到你的指尖。

ncnn 目前已在腾讯多款应用中使用，如 QQ，Qzone，微信，天天 P 图等。

目前模型部署有一条流行的流水线：

     

安卓部署流程(NCNN)

     PyTorch模型安卓部署流程(NCNN)_融合在手机上部署深度学习模型-CSDN博客文章浏览阅读4.2k次。如果我们想在手机端运行我们的深度学习模型需要怎么做呢？本文介绍了端侧深度学习模型部署流程(NCNN),在了解基本概念之后可以尝试运行NCNN官方demo实例，并根据自己需求进行改进，这样就可以在自己的手机上部署深度学习模型啦~_融合在手机上部署深度学习模型https://blog.csdn.net/xs1997/article/details/131747372

初探NCNN

 初探NCNN - 知乎一、简介ncnn是一款非常高效易用的深度学习推理框架，支持各种神经网络模型，如pytorch、tensorflow、onnx等，以及多种硬件后端，如x86、arm、riscv、mips、vulkan等，本文做一些初步的学习与总结。 1.1 代码统计…https://zhuanlan.zhihu.com/p/560866296