chaocainiao的博客

tensorRT踩坑日常之engine推理再进行tensorRT进行推理之前，需要将训练好的模型转onnx再进行序列化生成engine，然后反序列化context推理此文章是进行序列化生成engine和推理的，不知道如何生成engine和onnx的小伙伴可以参考另一篇博客https://blog.csdn.net/chaocainiao/article/details/124197430?spm=1001.2014.3001.5502废话不多说，开始进入正题，上代码# 初始化(创建引擎，为输入

tensorRT踩坑日常之训练模型转ONNX转enginetensorRT是用来干嘛的在这里就不多介绍了在使用tensorRT提速之前需要先训练模型在将训练好的模型转ONNX再转engine一、将训练好的模型转ONNX这里就提供将torch转ONNX，其余的网上还是有很多教程的import torchimport torch.nnimport onnxmodel = torch.load('best.pt')model.eval()input_names = ['input']outp