ONNX和NCNN都是什么？

最新推荐文章于 2023-10-10 12:00:02 发布
最新推荐文章于 2023-10-10 12:00:02 发布
阅读量1.5k 收藏 1
点赞数 1
分类专栏： pytorch 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhangdongren/article/details/128777900
版权
ONNX

-ONNX是一种模型存储方式，类似于编程中使用的JSON数据格式，与语言和平台无关

  • 很多机器学习平台都支持把自身训练的模型转为ONNX格式的模型
  • ONNX由微软、亚马逊、Facebook、IBM共同开发
  • 后缀是*.proto
NCNN
  • 是腾讯开发的一个能够把模型部署到移动设备上的部署框架
  • 如果要ONNX模型部署到Android设备上，也需要NCNN来进行部署，而不是直接部署ONNX
总结

所以如果想要把detectron2的模型部署到Android设备上，需要先把.pth模型转换为ONNX模型，然后再通过NCNN把ONNX部署到Android设备上。

.pth > ONNX > ncnn

其中.pth转ONNX是detectron2自带的方法，而ONNX要转换成ncnn识别的文件格式就需要用到ncnn自带的小工具来转换，转成ncnn支持的.bin和param格式。

神兽乌鸦
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
yolov5转化成onnx的模型和 NCNN模型
08-05
yolov5转化成onnx的模型和 NCNN模型
AI模型部署落地综述（ONNX/NCNN/TensorRT等）
小白学视觉
12-06 158
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达导读费尽心血训练好的深度学习模型如何给别人展示？只在服务器上运行demo怎么吸引别人的目光？怎么才能让自己的成果落地？这篇文章带你进入模型部署的大门。0 前言模型部署的步骤：训练一个深度学习模型；使用不同的推理框架对模型进行推理转换；在应用平台运行转换好的模型。步骤看起来比较简单，但是牵扯的到的知识还是比较多。在实际应用过程中，...
MODNet官方onnx及其转换的ncnn模型、NCNN量化后模型
04-01
1、MODNet官方提供的onnx模型； 2、MODNet官方onnx模型转ncnn； 3、ncnn int8量化后的模型。
onnx模型转 ncnn 模型全连接层输出shape不对问题解决
liguiyuan的博客
06-02 913
模型的为5个分类，onnx的输出为[1, 5] 是正确的，但是跑ncnn模型发现输出为 [1, 8, 5] ，经过打印log分析，是 softmax层前面的 fc层导致的问题。A * B = [1, 200] * [5, 200] ，这个矩阵是不能正常计算的，由于维度不同不能直接计算，但是在执行代码的时候没出错的原因，可能是由于gemm分块计算的原因，然后最后输出为。A * B + C，对应的维度为 [1, 200] * [200, 5] + [5] => [1, 5] 输出维度正确。
pt和onnx和ncnn之间的转换以及避坑
qq_65356682的博客
04-17 3264
这个转化比较简单python里就可以这个文件yolov5-5.0>models>export.py下面那个根据自己的环境修改，环境是你yolov5运行的环境cpu就填cpu gpu就填 0修改好后运行有可能需要下载onnx包 直接pip。
YOLOv8目标检测实战：Android手机部署
05-24
YOLOv8 目标检测基于先前 YOLO 版本的成功，引入了新功能和改进，进一步提升了性能和灵活性。本课程在Windows上手把手演示YOLOv8（YOLOv8n和YOLOv8s）目标检测在Android（安卓）手机进行部署的过程。内容包括：安装软件环境、安装PyTorch，克隆和安装YOLOv8，导出onnx模型，onnx转换成NCNN文件，安装Android Studio，准备Android项目文件(下载项目文件、放置ncnn文件、放置ncnn和opencv的android文件)，手机连接电脑并编译软件(安装投屏软件、手机连接电脑配置、编译和调试、导出签名apk)，自己数据集训练模型的部署，项目代码解析（安卓的JNI机制、C++代码、Java代码）。
NCNN - 适用于移动端的高性能神经网络前向计算框架
描绘自己的王国……
03-07 4390
NCNN - 适用于移动端的高性能神经网络前向计算框架 简述 ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。 ncnn 从设计之初深刻考虑手机端的部署和使用。无第三方依赖，跨平台，手机端 cpu 的速度快于目前所有已知的开源框架。 基于 ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行，开发出人工智能 APP，将 AI 带到你的指尖。 ncnn 目前已在腾讯多款应用中使用...
onnx转化ncnn详细实现过程
abusedemo的博客
10-10 1251
win环境下安装Opencv，参考opencv的安装，在opencv官网下载opencv3.4.10，注意选择win版本。接下来需要添加环境变量，在此电脑=>高级系统设置=>环境变量的系统变量部分的Path添加cmake的bin目录。同样在vs2019中操作，新建目录，cd到新目录下，执行下面命令行，注意中间的路径需要替换为自己的文件路径。CMake是一个跨平台的安装（编译）工具，可以用简单的语句来描述所有平台的安装(编译过程)。cmake，用的是3.19.1，通常来说>=3.15就没问题的。
深度学习模型移植pytorch->onnx->ncnn->android
热门推荐
hmzjwhmzjw的博客
06-28 2万+
深度学习模型移植pytorch->onnx->ncnn->androidpytorch->onnxonnx->ncnnncnn->android 最近做项目需要在手机上跑深度学习的模型，踩了不少坑，做个记录。这里以mobilenetv3为例子。 pytorch->onnx 1.环境配置 pytorch 1.0 之后自带onnx输出，所以是个很好的选择，顺便...
手把手教学在windows系统上将pytorch模型转为onnx，再转为ncnn的全过程
weixin_42280271的博客
04-10 1097
最近呢，在忙一个项目，需要将pytorch训练的模型部署在移动端。然后遇到也遇到了一些坑，简单的记录一下整个过程，转换的模型就使用经典的分类网络模型mobilenet_v2。
深度学习之模型转换(pytorch2onnx2ncnn)详细介绍
09-01
深度学习之模型转换(pytorch2onnx2ncnn)，适用于使用深度学习框架NCNN进行嵌入式移动端的模型部署
OcrLiteAndroidNcnn:Chineseocr Lite Android Onnx To Ncnn Demo，超轻量级中文OCR Android Demo，支持ncnn推理
05-24
代码和模型均源自chineseocr lite的onnx分支详情请查看 采用ncnn神经网络前向计算框架说明封装为独立的Library。Native层以C++编写。demo app以Kotlin-JVM编写。Android版与其它版本不同，包含了几个应用场景，
C++ pytoch -> onnx -> ncnn
11-27
C++ pytoch -> onnx -> ncnn
MODNet NCNN C++部署代码，及其模型
04-01
1、MODNet NCNN C++部署代码 2、MODNet NCNN量化后模型 3、MODNet NCNN未量化模型 4、MODNet onnx模型
YOLOv8-pose在ncnn框架下部署代码，包括onnx、*.bin、*.param
05-05
YOLOv8-pose在ncnn框架下部署过程记录（包含ncnn、pnnx安装以及模型结构更改及转换） https://blog.csdn.net/Rachel321/article/details/130381788
轻量级PP-HumanSeg lite人像分割模型NCNN C++部署代码和模型
03-17
1、轻量级人像分割模型PP-HumanSeg NCNN C++部署代码； 2、包含onnx模型和ncnn模型。
pse_sim.onnx
05-19
pytorch.PSENet训练好的模型文件转换为onnx格式文件，可使用ncnn，onnx-runtime等方式部署
mobilefacenet-mxnet:基于insightface训练mobilefacenet的相关步骤及ncnn转换流程
05-18
5月16日更新 经多位网友的共同实验，原方案部分情况下迭代次数稍微不足，导致最终识别率略有小差异，为了相对容易获得论文的最佳结果，对训练方案进行简单更新，实际训练也可根据数据acc训练是否已稳定来判断lr下降...
ncnn 包，window
最新发布
04-24
onnx2ncnn yolov7-0322.onnx yolov7.param yolov7.bin 优化模型 ncnnoptimize yolov7.param yolov7.bin yolov7_fp16.param yolov7_fp16.bin 65536
onnx2ncnn 模型转换工具
07-14
您好！对于您的问题，您可以使用 CSDN 开发的 'C知道' AI，我将为您提供关于onnx2ncnn模型转换工具的信息。 onnx2ncnn是一个用于将ONNX模型转换为NCNN模型的工具。ONNX是一个开放的深度学习框架中间表示格式，而NCNN是一个高效的神经网络计算库。通过使用onnx2ncnn，您可以将在ONNX格式下训练好的模型转换为NCNN格式，以便在移动设备或嵌入式系统上进行推理。 onnx2ncnn工具提供了一个命令行接口，可以通过命令行参数指定输入的ONNX模型文件和输出的NCNN模型文件。它还支持一些可选参数，如指定输入和输出的数据格式、指定输入数据的尺寸等。使用该工具，您可以轻松地将ONNX模型转换为NCNN模型，以便在您的应用中进行推理。 您可以在CSDN开发者社区中搜索关于onnx2ncnn模型转换工具的更多详细信息和使用示例。希望这个信息对您有帮助！如果您还有其他问题，请随时提问。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值