TNN将YOLOV5部署到移动端---pytorch转onnx转tnn全套流程

最新推荐文章于 2024-06-07 14:46:31 发布
最新推荐文章于 2024-06-07 14:46:31 发布
阅读量5k 收藏 27
点赞数 8
文章标签： android pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44409407/article/details/119996369
版权

TNN将YOLOV5部署到移动端—pytorch转onnx转tnn全套流程

直接利用腾讯的TNN-master跑通android demo可以参考这篇博客
TNN入门笔记——从零跑通Android demo

有些电脑性能受限，可能不支持虚拟机技术，可以通过usb连接手机，直接部署到真机上测试，参考博客Android studio 连接手机调试。

中间可能会遇到一些问题，每个人情况不一定相同，根据问题来查找解决方案，最终可以将TNN-master提供的android-demo成功部署到手机上。

因为在TNN-master中所使用的权重已经是转换好的tnn权重，如果要想按照自己的需求来更换模型，则需要将pytorch（或者其他类型）权重转为tnn格式。下面介绍如何将pytorch权重转为tnn格式，替换掉tnn-master中的权重，实现按照自己的需要展示android-demo。

1.下载yolov5工程文件
根据查找，tnn-master中所转换的yolov5版本号为 41bb70b32598c016cc55debae7bafd26ec94e984，但此版本的权重已无法下载，所以选择了与其发布时间相近的yolov5-3.1版本。经过验证࿰

最低0.47元/天 解锁文章
清水河畔杨柳岸
关注
  • 8
    点赞
  • 踩
  • 27
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
TNN-model.zip
12-07
标题中的"TNN-model.zip"指的是一个包含TNN（Ternary Neural Network）模型的压缩文件。TNN是一种针对深度学习的轻量化模型，它通过使用二值化或三值化的权重来减少神经网络的计算复杂度和存储需求，特别适用于资源...
深度学习之模型训练到嵌入式移动端部署核心框架
08-29
本文将深入探讨从模型训练到嵌入式移动端部署的核心框架，主要关注NCNN、MNN和TNN这三个针对移动端优化的深度学习框架。 首先，数据是深度学习的基础。在数据采集和标注阶段，你需要收集与任务相关的大量数据，并...
yolov5 移动端模型部署(ncnn,tflite,paddlelite等）
hdf521999的博客
04-10 1万+
yolov5部署安卓移动端模型部署(ncnn,tflite,paddlelite等）
安全帽检测（yolov5+tnn）
qq_37390021的博客
01-17 6364
文章目录Ubuntu18.04下安装PyTorch（GPU）详细步骤1.Anaconda的下载安装2. NVIDIA驱动安装3. 安装CUDA10.24. 安装cudnn5 安装PyTorch用yolov5训练自己的目标检测模型1.克隆yolov5-5.0项目2.安装依赖环境3. 下载预训练权重4 准备自己的数据集5 写自己的配置文件6 训练自己的模型7 利用训练好的模型检测图片yolov5+TNN推理框架部署到windows上1.下载tnn-master项目2.将.pt转换成tnn模型（在ubuntu18
yolov10-ncnn量化部署完整流程
最新发布
ws771216的博客
06-07 1602
1.yolov10与yolov8整体差异不大，yolov10的模型架构由以下几个部分组成：主干网络：使用增强版的CSPNet来提取图像特征，它能改善梯度流并减少计算量。颈部：采用PAN结构汇聚不同尺度的特征，有效地实现多尺度特征融合。一对多预测头：在训练过程中为每个对象生成多个预测，用来提供丰富的监督信号从而提高学习的准确性；在推理阶段不生效，从而减少计算量。一对一预测头：在推理过程中为每个对象生成一个最佳预测，无需NMS操作，从而减少延迟并提高推理效率。
yolov5环境部署和测试
MTS的博客
04-02 1330
检测阶段： 模型下载链接：https://github.com/ultralytics/yolov5/releases 开始部署环境： 出现的问题：No module named “skbuild” 解决： pip install scikit-build 测试 python3 detect.py --source data/images --weights model/yolov5l.pt --conf 0.25 ONNX和Pytorch格式文件的相互转换： Pytorch模型导出为ONNX格式： 实
yolov5模型通过Tengine框架部署在FT2000上全记录
m0_55818283的博客
04-03 1011
注意：如果只用原参数转为.onnx文件，会出现一些Tengine不支持的算子，因此我们需要用onnx的内置的一些api，在我们转换时，要加上 --train=True 和 --simplifier，加上后我们转换后的onnx文件才不会包含一些Tengine框架不支持的算子，并且取消掉了后处理操作。分为几步：不管用什么框架训练的网络模型都可以首先把我们训练好的权重文件，比如我用的pytorch框架做的训练，那我就将.pt文件转换为.onnx文件。注意：转换工具只能在x86的环境下编译，才能生成。
在Android端部署yolov5（显示类别个数）
积极向上的mr.d的博客
03-27 7677
闲来无事，记录一下自己在安卓端部署yolov5的步骤，历时一天。
深度学习+移动端框架+模型部署
08-27
在当前的AI技术发展中，深度学习模型的部署越来越受到重视，特别是在移动端。嵌入式移动端框架成为了将深度学习模型应用于智能手机和其他嵌入式设备的关键。本文主要讨论了三个知名的移动端深度学习框架：NCNN、MNN...
resnet34_to_TNN_imageclass.rar
12-25
在本项目"resnet34_to_TNN_imageclass.rar"中，主要涉及的是将PyTorch的预训练ResNet34模型转换为TNN（Tiny Neural Network）格式，以便在低功耗设备上运行图像分类任务。以下是相关知识点的详细说明： 1. **ResNet...
yolov5-face c++ mnn版
04-03
yolov5-face c++ mnn版，亲测成功， 3399设备上 100ms 320*240
pytorch量化测试代码，mobilenetv2在cifar10速度测试
03-31
本篇文章将详细探讨标题和描述中提及的"pytorch量化测试代码"，包括动态量化、静态量化以及感知训练，这些技术都是为了在保持模型性能的同时，减少计算资源的需求。 首先，我们来看动态量化（Dynamic Quantization...
yolov5通过ncnn在安卓平台部署
热门推荐
weixin_46502301的博客
07-01 1万+
yolov5部署通过ncnn安卓平台 目录 1.ncnn与yolov5的关系 2.ncnn模型转换 3.ncnn安卓环境部署 4.修改ncnn-android-yolov5源码 5.运行效果 -------------------------------------- 1.ncnn与yolov5的关系 NCNN官方的定义：NCNN是腾讯公司开源的一个专为手机端极致优化的高性能神经网络前向计算框架。NCNN从设计之初，就深刻考虑手机
yolov5-5.0转换ncnn在安卓平台的应用
bemy1008的博客
03-17 5208
yolov5-5.0转换ncnn在安卓上应用1、NCNN编译2、pt转onnx3、onnx转ncnn4、安卓端部署5、问题及解决 本文的编译应用环境及用到的编译工具为Win10、pycharm、VS2015、Android Studio. 1、NCNN编译 腾讯官方的介绍：ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。ncnn 从设计之初深刻考虑手机端的部署和使用。无第三方依赖，跨平台，手机端 cpu 的速度快于目前所有已知的开源框架。基于 ncnn，开发者能够将深度学习算法轻松移植到手机端
安卓端使用ncnn部署yolov5（v6.0）
女神sha手的博客
12-26 4680
ncnn是腾讯公司开源的一个专为手机端极致优化的高性能神经网络前向计算框架。ncnn从设计之初，就深刻考虑手机端的部署和使用，无需第三方依赖，跨平台，手机端cpu的速度快于目前所有已知的开源框架。基于ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行，开发出人工智能APP，将AI带到你的指尖。
YOLOv5 的 Android 部署，基于 tflite
09-06 3288
环境window 10 64bityolov5 v6.2torch1.7.1+cuda101tensorflow-gpu 2.9.1前言前文 借助NCNN，在Android上运行YOLOv5目标检测 和 在Android上进行yolov5目标检测，使用torchscript方式，我们分别使用了 ncnn 和 torchscript 这2种方式将 YOLOv5 部署到了 android 手机上。本篇...
yolov5 6.0版本-＞onnx-＞ncnn +安卓部署 附加ncnn环境配置 保姆级详细教程
CSDNXXXR的博客
06-28 7989
Windows下 yolov5 6.0版本转onnx转ncnn +安卓部署 附加ncnn环境配置 保姆级详细教程，踩了很多坑，基本是手把手将教你完成模型部署
改进的yolov5目标检测-yolov5替换骨干网络-yolo剪枝（TensorRT及NCNN部署）
阿利同学的博客
01-09 2285
改进的yolov5目标检测-yolov5替换骨干网络-yolo剪枝（TensorRT及NCNN部署） 2021.10.30 复现TPH-YOLOv5 2021.10.31 完成替换backbone为Ghostnet 2021.11.02 完成替换backbone为Shufflenetv2 2021.11.05 完成替换backbone为Mobilenetv3Small 2021.11.10 完成EagleEye对YOLOv5系列剪枝支持 2021.11.14 完成MQBench对YOLOv5系列量
基于TNN在Android手机上实现图像分类
夜雨飘零
09-06 3548
TNN：由腾讯优图实验室打造，移动端高性能、轻量级推理框架，同时拥有跨平台、高性能、模型压缩、代码裁剪等众多突出优势。TNN框架在原有Rapidnet、ncnn框架的基础上进一步加强了移动端设备的支持以及性能优化，同时也借鉴了业界主流开源框架高性能和良好拓展性的优点。
yolov5部署 ONNX
09-04
要将yolov5部署为ONNX模型，需要按照以下步骤进行操作： 1. 下载yolov5的工程文件。根据提供的参考资料，可以从yolov5的历史版本中选择合适的版本进行下载。 2. 去除冗余。根据参考资料，为了减小内存消耗，可以删除TNN-master中不需要的模型，只保留yolov5模型。 3. 修改yolo.py文件。根据参考资料，由于TNN似乎不支持5维的计算，需要将模型输出部分的5维数据修改为4维的输出。 4. 修改export.py文件。根据参考资料，在TNN-master中所使用的图片尺寸为448x640，而yolov5中为640x640。如果模型转换时不修改尺寸，则需要在TNN-master中修改相应图片尺寸。 5. 进行模型简化。经过上述操作后，可以得到一个onnx格式的模型。使用命令`python3 -m onnxsim /yolov5-master/weights/yolov5s.onnx /yolov5-master/weights/yolov5s_sim.onnx`对模型进行简化。前一个地址为待简化的模型路径，后一个为简化后的模型路径。模型简化这一步是必须的，以确保后续的onnx转tnn时能够成功。 通过以上步骤，你就可以将yolov5部署为ONNX模型了。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [TNN将YOLOV5部署到移动端---pytorch转onnx转tnn全套流程](https://blog.csdn.net/qq_44409407/article/details/119996369)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值