关于TensorRT trtexec工具转换onnx模型时遇到的奇怪问题:Error[3]: [network.cpp::addPoolingNd::1069] Error Code 3

问题

在对onnx模型转换成TensorRT 的格式的时候,遇到一个很奇怪的问题,也就是标题,当时百思不得其解,在网上查找,资料也寥寥无几,但是其中一条遇到的问题似乎差不多,有点类似也就是这条tensorrt的view以及../builder/Network.cpp::addPoolingNd问题解决

文中同样是network.cpp::addPoolingNd的问题,虽然他方式和我不同,我也没有找到tensorRT源码中的view.py和torch2trt.py。但是他最后的问题总结给了我启发。

1.经验证,这是由于输入图像规格太大导致的,将输入数据规格缩小即可避免这个问题,而这个数字如果不正确的话,即使解决了view的问题,也可能会出现下面中所示的问题。

2.我将规格改成196

于是我将输入尺寸改小了

input=torch.randn(1,3,512,512,requires_grad=True)

从512改成了256

input=torch.randn(1,3,256,256,requires_grad=True)

最后成功,重新把模型转成onnx,再进行转换就成功了。

  • 9
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值