TensorRT 3D反卷积不支持非对称padding

转trt模型时报错: ASSERT(begPadding == endPadding && “TensorRT does not support asymmetrical padding for 3D deconvolutions!”, ErrorCode::kUNSUPPORTED_NODE);
原因:TensorRT目前还不支持3D反卷积非对称padding
解决方法:

  1. 找到源码TensorRT/parsers/onnx/builtin_op_importers.cpp文件,找到ConvTranspose
  2. 删除以下代码:
if (outputPadding != makeDims(nbSpatialDims, 0) && autoPadMode == std::string("NOTSET"))
{
    for (int i = 0; i < nbSpatialDims; ++i)
    {
        if (endPadding.d[i] - outputPadding.d[i] >= 0)
        {
            endPadding.d[i] -= outputPadding.d[i];
            outputPadding.d[i] = 0;
        }
        else
        {
            // Reduce outputPadding as possible.
            outputPadding.d[i] -= endPadding.d[i];
            endPadding.d[i] = 0;
            hasOutputPadding = true;
        }
    }
}
  1. 在删除代码处添加以下代码:
bool hasOutputPadding = false;
for (int i = 0; i < nbSpatialDims; ++i) {
    if (outputPadding.d[i] > 0) {
        hasOutputPadding = true;
    }
}
  1. 重新编译源码,将相关lib文件替换到自己的第三方路径下即可。

注意!!!!!!!!!!!!!!!!!!!!!!!
该方法会导致一定的精度损失,虽然笔者测试了多个模型都没有问题,但使用仍需谨慎!!!
为啥要这样改以及为什么会造成损失,大家可以去了解一下反卷积/卷积转置的prePadding和outPadding的实现
如果这样改的影响实在过大就自定义op吧,笔者前面有介绍如何写动态卷积以及动态卷积转置自定义op

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值