问题
在对onnx模型转换成TensorRT 的格式的时候,遇到一个很奇怪的问题,也就是标题,当时百思不得其解,在网上查找,资料也寥寥无几,但是其中一条遇到的问题似乎差不多,有点类似也就是这条tensorrt的view以及../builder/Network.cpp::addPoolingNd问题解决
文中同样是network.cpp::addPoolingNd的问题,虽然他方式和我不同,我也没有找到tensorRT源码中的view.py和torch2trt.py。但是他最后的问题总结给了我启发。
1.经验证,这是由于输入图像规格太大导致的,将输入数据规格缩小即可避免这个问题,而这个数字如果不正确的话,即使解决了view的问题,也可能会出现下面中所示的问题。
2.我将规格改成196
于是我将输入尺寸改小了
input=torch.randn(1,3,512,512,requires_grad=True)
从512改成了256
input=torch.randn(1,3,256,256,requires_grad=True)
最后成功,重新把模型转成onnx,再进行转换就成功了。