问题描述
在对使用PyTorch导出的onnx模型进行TensorRT解析时出现:Your ONNX model has been generated with INT64 weights, while TensorRT does not natively support INT64. Attempting to cast down to INT32.
的错误。
解决方法
在网上有找到解决方案把onnx模型转TensorRT模型的trt模型报错,但由于机器上安装的onnx版本是1.8.0,pytorch版本是1.7.1,推测版本太高导致onnx-simplifier无法转换成功。查看后发现TensorRT-7.1.3.4支持的onnx版本是1.6.0,在降低onnx版本为1.6.0,pytorch版本为1.4.0后,使用TensorRT-7.1.3.4可正常通过模型的转换和解析。
pip install onnx-simplifier
python -m onnxsim your_model.onnx your_model_sim.onnx