input只允许输入日期_tensorrt动态输入（Dynamic shapes）

最新推荐文章于 2024-08-06 09:45:02 发布

hateful harmful

最新推荐文章于 2024-08-06 09:45:02 发布

阅读量1.3k

点赞数 7

文章标签： input只允许输入日期

本文链接：https://blog.csdn.net/weixin_42365510/article/details/112088887

版权

这篇博客记录了如何在TensorRT中处理动态输入形状，特别是图像的长宽。作者通过PyTorch转ONNX再转TensorRT的例子，详细解释了动态shape的设定和推理过程中的关键步骤，包括建立优化配置文件和在推理时选择正确的优化配置。文章指出，即使使用动态输入，在推理时仍需要根据实际输入尺寸进行适当配置，否则可能会遇到错误。作者希望借此帮助遇到类似问题的开发者节省时间。

摘要由CSDN通过智能技术生成

记录此贴的原因有两个：1.肯定也有很多人需要。2.就我搜索的帖子没一个讲的明明白白的，官方文档也不利索，需要连蒙带猜。话不多少，直接上代码。

以pytorch转onnx转tensorrt为例，动态shape是图像的长宽。

pytorch转onnx：

def export_onnx(model,image_shape,onnx_path, batch_size=1):
    x,y=image_shape
    img = torch.zeros((batch_size, 3, x, y))
    dynamic_onnx=True
    if dynamic_onnx:
        dynamic_ax = {'input_1' : {2 : 'image_height',3:'image_wdith'},   
                                'output_1' : {2 : 'image_height',3:'image_wdith'}}
        torch.onnx.export(model, (img), onnx_path, 
           input_names=["input_1"], output_names=["output_1"], verbose=False, opset_version=11,dynamic_axes=dynamic_ax)
    else:
        torch.onnx.export(model, (img), onnx_path, 
           input_names=["input_1"], output_names=["output_1"], ve