xavier上pytorch pth模型转onnx转tensorrt

1、pth转onnx

安装onnx从pytorch转换到onnx - 知乎 (zhihu.com)

pip install onnx

遇到问题

AdaptivePooling不能识别，需转为AvgPooling

(307条消息) [开发技巧]·AdaptivePooling与Max/AvgPooling相互转换_简明AI工作室-CSDN博客

(307条消息) torch之AvgPool2d_Nicola.Zhang-CSDN博客_avgpool2d

可视化pytorch模型转换为onnx，并使用netron可视化 - SegmentFault 思否

安装netron

pip install netron

import netron
netron.start('lenet.onnx')

2、onnx转tensorrt

由pytorch模型转onnx及TensorRT - 知乎 (zhihu.com)

(307条消息) TensorRT安装及使用教程_ZONGXP的博客-CSDN博客_tensorrt

TensorRT_C++:加载onnx模型，序列化和反序列化 - 知乎 (zhihu.com)

利用TensorRT实现神经网络提速(读取ONNX模型并运行)_OLDPAN的博客-CSDN博客_tensorrt读取onnx

（1）安装https://www.zybuluo.com/w460461339/note/1679859onnx-to-tensorRThttps://www.zybuluo.com/w460461339/note/1679859

只看文章中的4即可

 链接：https://pan.baidu.com/s/1OlsbvO7eP464oOQWKG10dA?pwd=lx5n 
提取码：lx5n

（2）onnx转为trthttps://blog.csdn.net/weixin_41562691/article/details/118277630

onnx2trt my_model.onnx -o my_engine.trt

2. Working With TensorRT Using The C++ API - 简书 (jianshu.com)

TensorRT学习（二）通过C++使用_yangjf91的博客-CSDN博客_c++ tensorrt

使用ONNX+TensorRT部署人脸检测和关键点250fps - 知乎 (zhihu.com)

onnx文件转rrt文件并运行trt文件（python版）_大鱼的博客-CSDN博客_onnx转trt

获取TensorRT(TRT)模型输入和输出_Mystra-CSDN博客_trt模型

推理演示 | 八步助你搞定tensorRT C++ SDK调用！ - 云+社区 - 腾讯云 (tencent.com)