YOLOX模型导出笔记

已于 2022-04-13 19:16:45 修改
阅读量5.5k 收藏 1
点赞数 2
分类专栏： CV 文章标签： python 计算机视觉 人工智能 pytorch openvino
于 2022-04-10 22:43:47 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35699473/article/details/124072753
版权

YOLOX应该是对新手比较友好的的了，甚至他都把模型导出好了，可以直接参照他的部署demo直接应用。
github链接

YOLOX导出ONNX模型

  1. 进入你的YOLOX目录，首先验证一下YOLOX是否能正常运行。
    python setup.py develop
    运行：其中-n指模型名称；也可以-f指定，但我不懂，其实他教程中的-f和-n都指向了同一个文件，应该是需要自定义模型是才需要
    python tools/demo.py image -n yolox-s -c ./weights/yolox_s.pth --path assets/dog.jpg --conf 0.25 --nms 0.45 --tsize 640 --save_result --device [cpu/gpu]
    或者是视频验证
    python tools/demo.py video -n yolox-s ./weights/yolox_s.pth --path /path/to/your/video --conf 0.25 --nms 0.45 --tsize 640 --save_result --device [cpu/gpu]

导出cpu模型

直接用他默认的导出的就是cpu模型

  1. 导出onnx模型。这里的-n和上边的含义一样。导出完成后就能看到导出的后缀为.onnx模型啦
    python tools/export_onnx.py --output-name yolox_s.onnx -n yolox-s -c yolox_s.pth
  2. 验证一下模型输出是否正确，他的demo中直接提供了推理模型。
    python ./demo/ONNXRuntime/onnx_inference.py -m ./weights/yolox_s.onnx -i ./assets/dog.jpg -o ./YOLOX_outputs -s 0.3 --input_shape 640,640

导出GPU模型

目前还未成功，后续再更新

  1. 上面导出的是cpu模型，运行时显存没有出现任何波动。这是因为他默认安装的是onnxruntime，如果要使用gpu，需要使用onnxruntime-gpu。这里有解决方案
    可以使用如下进行验证，我的环境下只输出了“CPU”。

    import onnxruntime
print(onnxruntime.get_device())

  2. 于是我又创建了一个新的conda环境验证这一点，环境中安装了onnx的gpu环境

    pip install onnxruntime-gpu

    然后

    ort_session = onnxruntime.InferenceSession("path/model/model_name.onnx",providers=['CUDAExecutionProvider'])
print(ort_session.get_providers())

    使用上边的验证时出现了下边的错误

    [W:onnxruntime:Default, onnxruntime_pybind_state.cc:552 CreateExecutionProviderInstance] Failed to create CUDAExecutionProvider. Please reference https://onnxruntime.ai/docs/reference/execution-providers/CUDA-ExecutionProvider.html#requirements to ensure all dependencies are met.

    然后看他给的链接，发现是cuda和onnx版本不对应导致的。我的cuda版本是10.2，cudnn版本是7.6.5，表格中没有找到相应的，对应的应该是onnx-gpu1.5或1.6，但我却默认安装了最新版的1.11，那么重新安装

    pip uninstall onnxruntime-gpu
pip install onnxruntime-gpu==1.5.1

导出OpenVINO模型

教程中说了，如果需要导出OpenVINO模型，那么需要把导出的ONNX模型的optset设置为10（我也不知道为啥），那么让我们再重新来导出一次ONNX吧，还是使用cpu模型

Python安装

  1. 导出opset为10的onnx模型
    python tools/export_onnx.py --output-name ./weights/yolox_s_cuda.onnx -n yolox-s -c ./weights/yolox_s.pth --opset 1
  2. 安装OpenVINO-dev，使用pip安装即可（如果是Python，只需要安装开发环境就行，他会自动帮你安装runtime；但是如果是C++开发，那么需要先用apt安装runtime，然后才能安装dev。从2022版之后只支持pypi安装dev，没懂是什么意思）
    pip install openvino-dev[pytorch,onnx]
    验证安装是否成功
    mo -h

C++版本安装

  1. 安装OpenVINO runtime 2021.4，在Ubuntu18上安装OpenVINO，官网在此

    wget https://apt.repos.intel.com/openvino/2021/GPG-PUB-KEY-INTEL-OPENVINO-2021
sudo apt-key add GPG-PUB-KEY-INTEL-OPENVINO-2021
sudo apt-key list
echo "deb https://apt.repos.intel.com/openvino/2021 all main" | sudo tee /etc/apt/sources.list.d/intel-openvino-2021.list
echo "deb https://apt.repos.intel.com/openvino/2022 bionic main" | sudo tee /etc/apt/sources.list.d/intel-openvino-2022.list
sudo apt update
sudo apt-cache search intel-openvino-runtime-ubuntu18

    此时如果出现了一大堆openvino相关的库，那么就可以开始安装了，默认安装路径为/opt/intel/openvino_<VERSION>.<UPDATE>.<PATCH>
    安装指定版本

    sudo apt install intel-openvino-runtime-ubuntu18-2021.4.582

    查看版本

    apt list --installed | grep openvino

    卸载

    sudo apt autoremove intel-openvino-<PACKAGE_TYPE>-ubuntu<OS_VERSION>-<VERSION>.<UPDATE>.<BUILD_NUM>

    后边还有一些步骤，我就不再写了，因为我也不知道有啥用，到这里OpenVINO就安装完成了。
    然后似乎还要下边这个命令，但是运行时它自动给我安上了。

    pip install openvino

  2. 设置环境，直接加.bashrc吧，这路径太长记不住啊。
    我安装的是与教程一样的2021，

    一开始装的是OpenVINO2022.1.0.643后来发现他大改版，与之前完全不同了，只能装回2021。2022相比之下精简了很多东西，需要自己去安装

    激活临时环境

    source /opt/intel/openvino_2021/bin/setupvars.sh

    或者直接加.bashrc中

    vim ~/.bashrc 
source /opt/intel/openvino_2021/bin/setupvars.sh
source ~/.bashrc

  3. 然后安装dev包

    sudo apt install intel-openvino-dev-ubuntu18-2021.4.582

  4. 模型转换

    cd /opt/intel/openvino_2021/deployment_tools/model_optimizer/install_prerequisites

    安装依赖

    sudo ./install_prerequisites_onnx.sh

    它里边的命令是source install_prerequisites.sh onnx，所以你直接去调用应该也可以

    开始转换

    cd ..
转换命令
python mo.py --input_model <ONNX_MODEL> --input_shape <INPUT_SHAPE> [--data_type FP16]
例如：这里一定要确定宽高和C++的输入一样
python mo.py --input_model yolox_tiny.onnx --input_shape [1,3,416,416] --data_type FP16
python mo.py --input_model ~/working/YOLOX/weights/yolox_s_10.onnx --input_shape [1,3,416,416] --data_type FP16 --output_dir ~/working/YOLOX/weights/

    然后IR（Intermediate Representation）就被写入输出文件夹了。一共三个文件，bin,mapping和xml。其中bin文件就是生成的训练模型文件
    再然后就正常去他的YOLOX/demo/OpenVINO/cpp/目录下去cmake那一套就行了。
    最后运行，一定要注意CPU全大写。

    ./demo/OpenVINO/cpp/build/yolox_openvino ./weights/yolox_s_openvino/yolox_s_10.xml ./assets/dog.jpg CPU

    运行结果发现准确度确实有波动，比onnx波动要大

使用Intel GPU进行推理加速

如果你的CPU能能够正常运行，那么接下来可以试试用Intel GPU加速了！
首先安装gpu相关驱动，只有最新版的，但是2021.4和他的安装方式一样：官网。第二步因为网络原因可能会很慢，可能需要多次尝试。。。

cd <INSTALL_DIR>/install_dependencies/
sudo -E ./install_NEO_OCL_driver.sh

装完之后直接把设备改成GPU就可以了，模型加载时间非常非常长~~

大王免礼
关注
  • 2
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
yolo输出目标坐标,剪裁原图
weixin_42518636的博客
04-30 4216
参考博客
YOLO-x代码修改，输出检测框坐标和物体类别及其中心坐标
m0_62948300的博客
09-17 566
yolo-x的demo能够直接输出可视化的结果，但我还想得到物体类别和坐标等信息，直接在demo上更改就行了。
onnxruntime::python::CreateExecutionProviderInstance CUDA_PATH is set but CUDA wasnt able to be load
最新发布
IT_ZB的博客
07-15 934
若出现拒绝访问Anaconda的环境时，根据提示可加参数 --user。cuda 版本为12.x时，请使用下面的方式进行重新安装。2、排除cuda是否正确安装问题，和确定cuda的版本。1、根据这篇博客，确保cuda和cudnn的安装正确。4、如果以上方法还不行，请执行安装命令。3、版本cuda、cudnn和。
yolox知识点
sinat_39307513的博客
08-17 3196
一、yolox整体思路 1、基础模型：yolov3-spp。考虑到yolov4、yolov5的tricks可能存在过度优化，因此选择yolov3添加spp结构作为基础网络。 2、yolox-darknet53:对yolov3基础模型添加各种trick是，例如Decopled head，SimOTA,anchor free等。 3、训练过程添加很多策略，例如： （1）添加EMA权值更新，cosine学习率机制，warmup学习率调节等 （2）使用IOU损失函数训练reg分支，BCE损失函数.
YOLOX运行demo及细节理解
村民的菜篮子
08-10 7241
1、Focus 参考：4、Focus模块-in YOLO - 知乎 (zhihu.com) 代码实现： class Focus(nn.Module): """Focus width and height information into channel space.""" def __init__(self, in_channels, out_channels, ksize=1, stride=1, act="silu"): super().__init__()
YOLOX网络结构详解
热门推荐
霹雳吧啦Wz
06-07 4万+
在之前文章中我们已经聊过YOLO v5了，今天我们再来聊聊YOLOX。YOLOX是旷视科技在2021年发表的一篇文章，当时主要对标的网络就是很火的YOLO v5，如果对YOLO v5不了解的可以看下我之前的文章。那么在YOLOX中引入了当年的哪些黑科技呢，简单总结主要有三点，decoupled head、anchor-free以及advanced label assigning strategy(SimOTA)。............
Unity导出gltf模型动画插件
11-10
本篇将深入探讨Unity导出gltf（GL Transmission Format）模型动画插件及其相关知识点。 gltf是一种轻量级的3D模型格式，旨在提高网络传输效率，降低加载时间，同时保持足够的模型细节和动画数据。它是Khronos Group...
Unity 模型导出插件.txt
05-12
资源收集于互联网，分享目的仅供大家学习与参考、学习、借鉴、研究之用，如有侵权，请联系我及时删除！
Unity导出Obj带贴图模型
11-12
在Unity中，导入和导出3D模型是开发过程中不可或缺的一部分，特别是在与其他软件（如Blender、Maya或3DS Max）协同工作时。本篇文章将详细介绍如何在Unity中导出带有贴图的Obj模型，并解释这个过程中的关键知识点。 ...
自用导入导出模型插件
09-18
"自用导入导出模型插件"标题所指的，是一个专为个人使用设计的，用于导入和导出模型的工具。这种插件通常在3D建模、数据分析或者软件开发等场景中常见，它能帮助用户更方便地管理和迁移他们的模型数据。 首先，我们...
unity模型导出插件
12-25
Unity模型导出插件是一种工具，它允许用户将Unity引擎中的3D模型转换为.obj（Wavefront OBJ）格式。这种转换对于在多个平台之间共享模型，或者使用其他3D编辑软件进行进一步的编辑和优化非常有用。.obj格式是一种...
yolox_s.pth
11-17
yolox 模型训练的预训练模型 yolox_s
Failed to create CUDAExecutionProvider 使用onnxruntime-gpu未成功调用gpu
大雾的小屋的博客
01-08 4753
最近在使用GPU对onnx模型进行加速过程中（仅针对N卡，毕竟也没有别的显卡了。。），遇到了点问题：就是明明在安装了合适版本的显卡驱动和CUDA后，onnx还是不能够成功调用GPU，并且还出现了先导入torch，再导入onnxruntime就可以成功调用的奇怪现象。
onnxruntime:Default, onnxruntime_pybind_state.cc
q742971636的博客
12-22 4645
onnxgpu出错 2021-12-22 10:22:21.111726214 [W:onnxruntime:Default, onnxruntime_pybind_state.cc:535 CreateExecutionProviderInstance] Failed to create CUDAExecutionProvider. Please reference https://onnxruntime.ai/docs/ reference/execution-pr
onnx标准 & onnxRuntime加速推理引擎
qq_33934427的博客
04-12 1万+
onnx标准 & onnxRuntime加速推理引擎 文章目录onnx标准 & onnxRuntime加速推理引擎一、onnx简介二、pytorch转onnx三、tf1.0 / tf2.0 ckpt转onnx四、python onnx的使用1、环境安装2、获得onnx模型权重参数（可视化）3、onnx模型推理 参考博客： ONNX运行时：跨平台、高性能ML推断和训练加速器 python关于onnx模型的一些基本操作 ONNX 與 Azure Machine Learning：建立並加速 M
YOLO　边框预测中的坐标系转换详解
m0_38139098的博客
07-16 5969
前提是读者要对YOLO的预测框机制比较熟悉，本节主要是给出具体的计算方法． 问题描述 我们要做的，是把bbox的全局坐标系转换成相对于他所在的局部坐标系．比如通过归一化的bbox坐标，他是相对于原图坐标左上角的，而我们现在把它转换到每一个小格子左上角上去．通过这个坐标进行损失函数的计算，在推理时再转换回来． 问题解析 就是坐标映射问题，当全局尺寸归一化为1时,可以观察出映射公式： out=input−leftGridPosegridSizeout = \frac{input-leftGridPo.
【目标检测】YOLOX-算法（代码解读）
qq_45752541的博客
03-15 1万+
文章目录前言一、测试1.引入库二、训练1.引入库2.读入数据总结 前言 分享一下YOLOX具体实现过程 一、测试 首先看demo.py。 1.引入库 代码如下（示例）： line196：构建了一个predictor类，将测试图片输入 outputs, img_info = predictor.inference(image_name) 然后进入predictor的inference过程： img = cv2.imread(img) ratio = min(self.test_size[0]
YOLOX目标检测实战：OpenVINO部署
08-22
YOLOX是旷视科技新近推出的高性能实时目标检测网络，性能超越了YOLOv3/YOLOv4 /YOLOv5。 OpenVINO是针对Intel的CPU等设备的加速工具。本课程在Windows和Ubuntu系统上详细演示使用OpenVINO对YOLOX进行加速和部署。其中对Python和C++的OpenVINO部署都进行了讲解。特别是讲述了针对自己数据集上训练出的YOLOX的OpenVINO加速部署方法。相关课程：《YOLOX目标检测实战：训练自己的数据集》https://edu.csdn.net/course/detail/35586 《YOLOX目标检测实战：TensorRT加速部署》https://edu.csdn.net/course/detail/35716
simscape 模型导出
11-08
Simscape是一种基于物理建模的仿真软件，用于建立和模拟动态系统。它可以有效地对实际物理系统进行建模和仿真，如机械系统、电气系统、液压系统等。Simscape模型导出是指将建立的Simscape模型导出到其他工程软件或环境中继续使用的过程。 Simscape模型导出可以通过两种不同的方式实现。一种方式是将Simscape模型转换为Simulink模型，然后再将Simulink模型导出到其他工程软件中。这种方法适用于那些只支持Simulink模型的软件平台，如MATLAB、LabVIEW等。通过这种方式，Simscape模型中的物理元件和连接关系将转换为Simulink的信号和传输线，以便在其他软件环境中使用和分析。 另一种方式是将Simscape模型导出为代码文件，如C代码或C++代码。这种方式适用于那些需要直接控制硬件或进行实时仿真的应用场景。通过将Simscape模型导出为代码，可以在嵌入式系统或硬件控制器中运行，实现实时模拟和控制。 无论采用哪种方式，Simscape模型导出都需要进行一些配置和设置。首先，需要选择正确的导出选项和目标平台。然后，根据导出的要求对模型进行调整和优化，以确保导出后的模型可以正常运行并满足性能要求。最后，进行编译和生成可执行文件或代码的过程。在导出完成后，就可以将模型集成到其他工程软件或系统中，进行进一步的使用和分析。 总的来说，Simscape模型导出是一项重要的工作，它将Simscape模型扩展到更广泛的应用领域，并实现与其他工程软件和硬件平台的无缝集成。通过Simscape模型导出，我们可以更好地利用Simscape的强大功能，为各种实际系统建立准确的仿真模型，进行控制设计和性能分析。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值