MXNet转onnx问题点记录

MXnet转onnx时碰到的问题记录

最近将mxnet转onnx时碰到很多问题,在查找过程中发现解决方法,特记录下;转换过程主要参考如下链接中的解决方法
mxnet模型转onnx模型 作者liguiyuan112
Insightface中ArcFace MxNet2ONNX踩坑
MXNet Symbol Batch Normalization fix_gamma=True转ONNX方法

主要问题

  1. 转换时BN层出现错误
onnx.onnx_cpp2py_export.checker.ValidationError: Unrecognized attribute: spatial for operator BatchNormalization

==> Context: Bad node spec: input: "conv_1_conv2d" input: "conv_1_batchnorm_gamma" input: "conv_1_batchnorm_beta" input:"conv_1_batchnorm_moving_mean" input:"conv_1_batchnorm_moving_var" output: "conv_1_batchnorm" name: "conv_1_batchnorm" op_type: "BatchNormalization" attribute { name: "epsilon" f: 0.001 type: FLOAT } attribute { name: "momentum" f: 0.9  type: FLOAT } attribute { name: "spatial" i: 0 type: INT }

解决方法:参考mxnet模型转onnx模型 作者liguiyuan112 ,修改pip安装的mxnet文件夹下mxnet/contrib/onnx/mx2onnx/_op_translations.py中 359行左右的 spatial=0 注释掉即可

  1. 推理报错
    2.1. TypeError: 127.5 has type numpy.float32, but expected one of: int, long, float
    2.2. [ONNXRuntimeError] : 1 : FAIL : Type Error: Type parameter (T)bound to different types (tensor (double) and tensor(float) in node (conv_1_conv2d).
    2.3. [ONNXRuntimeError] : 6 : RUNTIME_EXCEPTION : Non-zero status code returned while running PRelu node. Name:‘conv_1_relu’… Attempting to broadcast an axis by a dimension other than 1. 56 by 64
    参考Insightface中ArcFace MxNet2ONNX踩坑,其代码主要在github: zheshipinyinMc/arcface_retinaface_mxnet2onnx

  2. 推理结果不一致
    上述1和2步骤完成后,可以得到模型,但实际推理过程中发现onnxruntime推理结果和mxnet推理结果不一致,检查每层结果,发现在batchnorm层后两者之间的输出结果不一致,查询后,发现是mxnet中当batchnorm层中的参数fix_gamma为True时,其前向推理时 gamma参数不参与计算,所以需要将gamma参数的值置为1,可参考如下代码,注意修改 这一行代码,if ‘batchnorm_gamma’ in k or ‘fc1_gamma’ in k: 将所有fix_gamma为True的修改为1,fix_gamma为False时不需要修改。调用完成后,再利用2中的代码完成模型的转换,其推理结果就一致了。

def get_model(ctx, image_size, model_str, layer):
   _vec = model_str.split(',')
   assert len(_vec) == 2
   prefix = _vec[0]
   epoch = int(_vec[1])
   print('loading', prefix, epoch)
   sym, arg_params, aux_params = mx.model.load_checkpoint(prefix, epoch)
   reshape_params = {}
   for k, v in arg_params.items():
       if 'batchnorm_gamma' in k or 'fc1_gamma' in k:            
           v[:]=1.0
       reshape_params[k] = v
   mx.model.save_checkpoint(prefix, epoch, sym, reshape_params, aux_params)

总结

本文记录作者在转换insightface中gender_age模型时遇到的问题,如有侵权,请联系删除。

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值