最近有遇到需要将onnx模型的中间节点裁剪掉的情况,mxnet转成的caff模型,预处理(减去均值除以方差的操作)写在了模型结构里,量化时要把预处理层单独拿出来,这个操作有两种方法可以实现,一种可以加载mxnet训练好的模型,去掉预处理后再保存;另一种时直接将onnx中对应的两个预处理节点裁掉,这里写一下第二种方法具体实现
import onnx_graphsurgeon as gs
import numpy as np
import onnx
# remove preprocessing node
# (x - mean)/std
def remove_preprocessing_node(onnx_path):
onnx_model = onnx.load(onnx_path) #加载onnx模型
graph = onnx_model.graph
old_nodes = graph.node
new_nodes = old_nodes[2:] #去掉data,sub,mul前三个节点
del onnx_model.graph.node[:] # 删除当前onnx模型的所有node
onnx_model.graph.node.extend(new_nodes) # extend新的节点
conv0_node = onnx_model.graph.node[0]
conv0_node.input[0] = 'data' #给第一层的卷积节点设置输入的data节点
# graph = onnx_model.graph
# print(graph.node)
onnx.checker.check_model(onnx_model)
onnx.save(onnx_model, "./janus_mask_occ_nopre.onnx")
def crop_middle_nodes(onnx_path):
if __name__ == "__main__":
onnx_path = "J:/code/mxnet_mask/janus_mask_occ.onnx"
remove_preprocessing_node(onnx_path)
实现效果: