TensorRT：数据预处理

最新推荐文章于 2025-01-11 07:43:22 发布

微风❤水墨

最新推荐文章于 2025-01-11 07:43:22 发布

阅读量1.2k

点赞数 2

分类专栏：目标检测-实现

本文链接：https://blog.csdn.net/lilai619/article/details/108348197

版权

目标检测-实现专栏收录该内容

22 篇文章 91 订阅 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

本文记录了在将PyTorch模型迁移到TensorRT（RT）过程中遇到的数据预处理问题。主要差异在于PyTorch中数据格式为NCHW，通道顺序为RGB，数值范围0-1，而OpenCV数据则为HWC，BGR顺序，且数值范围0-255。在RT测试中，由于忽视了数据转换，导致结果不一致。解决方法包括正确处理通道顺序、归一化和数据维度排列。

摘要由CSDN通过智能技术生成

Pytorch测试正常，RT测试不一致，分析了一下，主要是数据的问题导致的差异，记录一下自己的踩坑

1：Pytorch数据：格式-NCHW，通道顺序-RGB，数值范围-[0-1]，数据类型-float

"""
Convert a ``PIL Image`` or ``numpy.ndarray`` to tensor.
    Converts a PIL Image or numpy.ndarray (H x W x C) in the range
    [0, 255] to a torch.FloatTensor of shape (C x H x W) in the range [0.0, 1.0].
"""

一般会碰到PIL或者cv2的使用接口：两者的差异

PIL ：RGB, 0~1, CHW

numpy：BGR, 0~255，HWC

2：opencv数据：格式-HWC，通道顺序-BGR，数值范围-[0-255]，数据类型-uchar

了解本专栏