onnx模型制作

1.onnx模型简介

ONNX全称是Open Neural Network Exchange，不同深度学习框架可以将模型保存为ONNX格式，从而实现模型在不同框架之间的转换。
ONNX中，每一个计算流图都定义为由节点组成的列表，每个节点是一个OP，可能有一个或多个输入与输出，并由这些节点构建有向无环图。
目前，ONNX已支持当前主要的各种深度学习框架，有些框架如PyTorch是官方集成了ONNX，有些需要第三方支持，即便像darknet这种小众的框架，也可以手动构建ONNX图来将模型转为ONNX格式。

2.onnx模型构建概述

构建onnx模型的方法可以参考onnx的官网onnx/helper.py文件内，具体如下：

helper.make_tensor()            
helper.make_tensor_value_info()  
helper.make_attribute()         

helper.make_node()  
helper.make_model()   
helper.make_graph()

另外两个比较常用的方法是对构造完的模型的检查和保存，分别定义在onnx/checker.py和onnx/__init__.py中：

onnx.checker.check_model()
onnx.save()

总结一下构造一个onnx模型的具体流程：

1)根据自己的网络结构调用make_node()来创建相关节点，节点的inputs和outputs参数决定了后续graph的连接情况，节点的权值和信息通过调用make_tensor()和make_tensor_value_info()来创建，它们和节点的联系在于节点的name

2)上述三个方法构造的结构分别对应make_graph()中的三个参数，具体如下所示：

     a.nodes: make_node()

     b.inputs: make_tensor_value_info()

     c.initializer: make_tensor()

3)最后检查和保存模型即可

3.onnx模型构建细节

下面给出上述主要方法的定义，具体使用示例可参考官方example ：

helper.make_tensor()

def make_tensor(
        name,       # tensor名称(string)
        data_type,  # tensor内数据类型(TensorProto.dataType)
        dims,       # tensor的shape(list of int)
        vals,       # tensor的值
        raw=False   # 当为false时，该方法会根据data_type类型来存储vals，当为true时，该方法会使用raw_data来存储vals(在该方法中指的是bytes类型) -> 此处理解存疑(proto field ?)
):  # type: (...) -> TensorProto

helper.make_tensor_value_info()

# 通常和make_tensor()一起使用，用于创建一个tensor的信息
def make_tensor_value_info(
        name,                   # tensor名称(string)
        elem_type,              # tensor中元素的类型(TensorProto.dataType)
        shape,                  # tensor的shape(list of int)
        doc_string="",          # 可选参数：对该tensor的描述
        shape_denotation=None,  # 可选参数：对shape中每个维度的描述(list of string)
):  # type: (...) -> ValueInfoProto

helper.make_attribute()

# 该方法是make_node()的内部调用方法，当我们通过**kwargs传入一系列op的属性时，最终都会调用该方法转化为键值对，因此可以直接调用该方法先构造键值对，然后将构造结果传给**kwargss
def make_attribute(
        key,             
        value,           
        doc_string=None  
):  # type: (...) -> AttributeProto

helper.make_node()

def make_node(
        op_type,          # 要构造的op的名字(string) -> 相当于是将一个op封装为一个节点
        inputs,           # 输入当前节点的节点名称(list of string)  
        outputs,          # 当前节点输出的名称(list of string)  -> 当节点只有一个输出时，节点名称就相当于outputs
        name=None,        # 可选参数：当前节点的名称，作为索引该节点的唯一标识(string)
        doc_string=None,  # 可选参数：为当前节点添加描述(string)
        domain=None,      # 可选参数：为当前节点添加一个领域？(string)
        **kwargs          # 当前节点的属性(dict or 类似普通参数的传入)，不同类型的op具有不同的属性，具体参数需要看构造的op类型，然后参考官方op文档所给的属性选项
):  # type: (...) -> NodeProto

helper.make_graph()

def make_graph(
    nodes,             # 节点的列表(list of node)
    name,              # graph的名称(string)
    inputs,            # 输入网络的tensor的相关信息(list of ValueInfoProto)，包括网络每层的权重等信息 -> 由make_tensor_value_info()构造
    outputs,           # 网络输出tensor的相关信息(list of ValueInfoProto) -> 由make_tensor_value_info()构造
    initializer=None,  # 可选参数：图中每个节点的初始化权值(list of TensorProto) -> 由make_tensor()构造
    doc_string=None,   # 可选参数：对graph的描述
    value_info=[],     # 可选参数：存放中间层产生的输出数据的信息(list of ValueInfoProto) -> 由make_tensor_value_info()构造
):  # type: (...) -> GraphProto

helper.make_model()

def make_model(
        graph, 
        **kwargs
):  # type: (GraphProto, **Any) -> ModelProto

4.onnx模型构建案例

import onnx
from onnx import helper
from onnx import TensorProto
import numpy as np


weight_shape = [64,3,7,7]
input_shape = [64,3,224,224]
output_shape = [64,64,112,112]

X = helper.make_tensor_value_info('X', TensorProto.FLOAT, input_shape)

weight = np.random.ranf(64*3*7*7).astype(np.float32)
W = helper.make_tensor('W', TensorProto.FLOAT,weight_shape, weight)

Y = helper.make_tensor_value_info('Y', TensorProto.FLOAT, output_shape)

node_def = helper.make_node(
    'Conv', # node name
    ['X', 'W'],
    ['Y'], # outputs
    dilations = [1,1],
    group = 1,
    kernel_shape = [7,7],
    pads = [3,3,3,3],
    strides=[2,2]
    )
graph_def = helper.make_graph(
    [node_def],
    'test_conv_mode',
    [X], # graph inputs
    [Y], # graph outputs
    initializer=[W],
)

mode_def = helper.make_model(graph_def, opset_imports=[helper.make_opsetid("", 14)])
mode_def.ir_version = 7
onnx.checker.check_model(mode_def)
onnx.save(mode_def, "./conv_batch_64.onnx")

参考链接：

ONNX-开放式神经网络交换格式 - vh_pg - 博客园

Play with ONNX operators — sklearn-onnx 1.9.2 documentation

Python helper.make_graph方法代码示例 - 纯净天空

https://github.com/onnx/onnx/blob/master/onnx/test/helper_test.py