利用pytorch构建DETR并训练自己的数据集,然后将训练好的模型导出onnx文件,最后利用tensorRT构建推理引擎并部署

 

DETR目标检测模型在Pytorch当中的实现,以及部署

项目地址

  1. kangkangwansui/detr_deploy (github.com)
  2. 如果觉得有用请客官大人点个小星星

目录

  1. python : 基于prch实现的DETR目标yto检测模型,支持训练和测试,以及生成onnx模型。
  2. CPP : 将onnx模型转为序列化的engine模型保存,反序列化engine模型,部署并推理。

所需环境

python环境:

torch== 1.7.1

torchvision == 0.8.2

numpy == 1.24.4

onnx == 1.15.0

onnxruntime == 1.18.0

opencv-python == 4.6.0.66

tqdm == 4.66.4

scipy == 1.10.1

c++环境:

cmake == 3.16.3

tensorrt == 8.2.1.8

opencv == 4.8.0

yaml-cpp

文件下载

        训练需要的数据集,训练模型的初始权重、150 epoches 训练后保存的权重文件、导出的onnx文件以及构建的engine文件,可在百度网盘中下载。
链接:百度网盘 请输入提取码 提取码:6syh

        python代码的实现可参考CSDN博客:睿智的目标检测65——Pytorch搭建DETR目标检测平台,代码来源:GitHub - bubbliiiing/detr-pytorch: 这是一个DETR-pytorch的仓库,可以训练自己的数据集

训练自己的数据集

  1. 数据集的准备,按照VOC2007的格式准备自己的数据集,记住数据集存储的路径

  2. 生成数据集路径:cd python,修改voc_annotation.py文件下的classes_path和VOCdevkit_path路径;运行python voc_annotation.py,生成2007_train.txt,2007_val.txt文件。

  3. 修改train.py文件的classes_path和model_path参数,其他参数根据自身需求修改;运行python train.py 训练结束后会在log文件下生成权重文件。

导出onnx模型

  1. 修改export_onnx.py的resume和onnx_path参数,运行python export_onnx.py ,会在onnx文件夹下生成detr.onnx模型

根据onnx模型构建engine并推理

  1. 解析onnx文件,构建网络,序列化模型:我们的项目是基于c++,利用tensorrt解析onnx模型构建网络,并序列化模型然后写入detr.engine文件并保存。具体操作为:cd ..退回根目录下,然后cd CPP进入c++语言下的目录,然后在config.yaml配置参数,具体参数如下:首先将isBuild设置为true(代表解析onnx文件,序列化模型),isSaveEngine设置为true(保存engine文件),onnx_file_path和classes_txt设置的路径与python生成的一致,EngineOutputFile指定engine文件保存的路径。最后cmake -B build(创建build文件和项目文件);cmake --build build(编译项目);build/DETR(运行项目,生成detr.engine文件)

  2. 反序列化模型,并推理:config.yaml配置文件内的isBuild设置为false(直接加载engine文件,推理);engineflie设置为engine文件生成的路径。最后build/DETR(运行项目,预测图片生成结果)

  • 12
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
Pytorch 模型导出ONNXTensorRT 格式的具体步骤如下: ### 导出ONNX 格式 1. 安装 onnx 包:`pip install onnx` 2. 加载 Pytorch 模型并将其转换为 ONNX 模型: ```python import torch import torchvision import onnx # 加载 Pytorch 模型 model = torchvision.models.resnet18(pretrained=True) # 转换为 ONNX 模型 dummy_input = torch.randn(1, 3, 224, 224) input_names = ["input"] output_names = ["output"] onnx_path = "resnet18.onnx" torch.onnx.export(model, dummy_input, onnx_path, verbose=True, input_names=input_names, output_names=output_names) ``` 3. 导入 ONNX 模型: ```python import onnx # 加载 ONNX 模型 onnx_path = "resnet18.onnx" model = onnx.load(onnx_path) ``` ### 导出TensorRT 格式 1. 安装 TensorRT 并设置环境变量: ```python # 安装 TensorRT !pip install nvidia-pyindex !pip install nvidia-tensorrt # 设置 TensorRT 环境变量 import os os.environ["LD_LIBRARY_PATH"] += ":/usr/local/cuda/lib64:/usr/lib/x86_64-linux-gnu" ``` 2. 加载 Pytorch 模型并将其转换为 TensorRT 模型: ```python import tensorrt as trt import pycuda.driver as cuda import torch import torchvision # 加载 Pytorch 模型 model = torchvision.models.resnet18(pretrained=True) # 转换为 TensorRT 模型 TRT_LOGGER = trt.Logger(trt.Logger.WARNING) trt_runtime = trt.Runtime(TRT_LOGGER) with trt.Builder(TRT_LOGGER) as builder, builder.create_network() as network, trt.OnnxParser(network, TRT_LOGGER) as parser: builder.max_workspace_size = 1 << 30 builder.max_batch_size = 1 # 加载 ONNX 模型 onnx_path = "resnet18.onnx" with open(onnx_path, "rb") as f: parser.parse(f.read()) # 构建 TensorRT 引擎 engine = builder.build_cuda_engine(network) # 保存 TensorRT 引擎 with open("resnet18.trt", "wb") as f: f.write(engine.serialize()) ``` 3. 导入 TensorRT 模型: ```python import tensorrt as trt # 加载 TensorRT 模型 trt_path = "resnet18.trt" with open(trt_path, "rb") as f, trt.Runtime(trt.Logger(trt.Logger.WARNING)) as runtime: engine = runtime.deserialize_cuda_engine(f.read()) ```
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值