onnx模型输入输出维度修改

场景

我有一个onnx模型,需要转换为rknn格式。
但是转换的脚本总是加载onnx模型时就出错了。

 load_onnx: ValueError: Invalid input_shape = [0, 128, 128, 1] for input 0!

看来是输入的维度问题。通过netron查看,可以看到输入输出的信息
在这里插入图片描述
可以看到右侧inputs和outputs的信息,第一个维度都是无效的,所以我需要把他们固定为1,因为我本来也不需要批量推理。

修改onnx输入输出维度的代码

import onnx
onnx_model = onnx.load("./tf_face_landmark.onnx")

print("============input============")
print(onnx_model.graph.input)

print("============output============")
print(onnx_model.graph.output)


onnx_model.graph.input[0].type.tensor_type.shape.dim[0].dim_value = '1'

onnx_model.graph.output[0].type.tensor_type.shape.dim[0].dim_value = '1'

print("============new input============")
print(onnx_model.graph.input)

print("============new output============")
print(onnx_model.graph.output)

onnx.checker.check_model(onnx_model)
onnx.save(onnx_model, 'face_landmark.onnx')
print("模型已保存")

代码运行输出(unk__207和unk__208应该是引起上述保存的原因,改了它们就好了)

# python3 change_onnx_shape.py
============input============
[name: "image_batch"
type {
  tensor_type {
    elem_type: 1
    shape {
      dim {
        dim_param: "unk__207"
      }
      dim {
        dim_value: 128
      }
      dim {
        dim_value: 128
      }
      dim {
        dim_value: 1
      }
    }
  }
}
]
============output============
[name: "Logits_out/output"
type {
  tensor_type {
    elem_type: 1
    shape {
      dim {
        dim_param: "unk__208"
      }
      dim {
        dim_value: 136
      }
    }
  }
}
]
============new input============
[name: "image_batch"
type {
  tensor_type {
    elem_type: 1
    shape {
      dim {
        dim_value: 1
      }
      dim {
        dim_value: 128
      }
      dim {
        dim_value: 128
      }
      dim {
        dim_value: 1
      }
    }
  }
}
]
============new output============
[name: "Logits_out/output"
type {
  tensor_type {
    elem_type: 1
    shape {
      dim {
        dim_value: 1
      }
      dim {
        dim_value: 136
      }
    }
  }
}
]
模型已保存

效果

在这里插入图片描述

吐槽

费了半天劲搭环境,解决onnx转换过程的各种问题,最后发现rknn-toolkit2-v1.3不支持onnx的hardswish算子,白干了。

最后,在rknn-toolkit-v1.7环境下将ckpt固化为pb文件,拷贝到rknn-toolkit2-v1.3下,再转换为rknn成功。
折腾!

参考资料

onnx修改模型输出节点属性

将tensorflow 1.x & 2.x转化成onnx文件(以arcface-tf2人脸识别模型为例)

  • 5
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
OpenCvSharp是一个基于OpenCV库的C#封装库,可以方便地在C#中使用OpenCV功能。而ONNX是一个开放的深度学习模型交换格式,可以用来在不同框架之间共享和使用深度学习模型。 要在OpenCvSharp中调用ONNX模型,首先需要通过C#代码加载ONNX模型。可以使用ONNX Runtime库来实现这一点。ONNX Runtime是一个用于执行和推理ONNX模型的高性能引擎,它提供了C# API。 下面是一个简单的步骤来调用ONNX模型: 1. 安装OpenCvSharp和ONNX Runtime库。 2. 在C#代码中导入所需的命名空间: ```csharp using OpenCvSharp; using Microsoft.ML.OnnxRuntime; ``` 3. 加载ONNX模型: ```csharp string modelPath = "your_model.onnx"; using (var session = new InferenceSession(modelPath)) { // 进行后续的推理操作 } ``` 4. 输入数据并执行推理: ```csharp float[] inputData = new float[1, 3, 224, 224]; // 根据模型的输入维度进行设定 float[,] outputs = new float[1, numClasses]; // 根据模型的输出维度进行设定 float[] flattenedInput = inputData.Cast<float>().ToArray(); var inputMeta = session.InputMetadata; var container = new List<NamedOnnxValue>(); container.Add(NamedOnnxValue.CreateFromTensor<float>("input", flattenedInput, inputMeta["input"].Dimensions)); var results = session.Run(container); results[0].AsTensor<float>().CopyTo(outputs); ``` 以上代码假设ONNX模型具有一个名为"input"的输入和一个名为"output"的输出。您需要根据您的模型的实际输入和输出设置适当的参数。 通过上述步骤,您就可以在OpenCvSharp中成功调用ONNX模型,并获得推理结果。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值