面向工具开发者的 TensorFlow 模型文件指南

最新推荐文章于 2019-07-23 21:54:00 发布

z海清

最新推荐文章于 2019-07-23 21:54:00 发布

阅读量205

点赞数 2

分类专栏：总结

总结专栏收录该内容

45 篇文章 1 订阅

订阅专栏

大多数用户不需要关心tensorflow在硬盘上存储数据的细节问题的，但是如果你是一个 Tool developer，那就另当别论了。例如，如果你想分析模型(models)，或者想在tensorflow或者其它格式之间进行来回转换。这篇指南通过试着去解释一些如何处理 保存着模型数据的文件的细节，使得开发者们做一些格式装换的工具更加简单。

Protocol Buffers

所有的Tensorflow的文件格式都是基于Protocol Buffers的。所以了解它们是如何工作的是非常有价值的。概括来说就是，你在文本文件(text files)中定义数据结构，protobuf tools就会生成对应的C,Python和其它语言的类。我们可以用友好的方式来加载，保存，访问这些类中的数据。我们经常将 Protocol Buffers称为 protobufs，在接下来的文章中，我们将继续遵守这个约定。可以看一下我的这篇文章,对protocol buffer进行了简单的介绍

GraphDef

在tensorflow中，计算的基础是Graph对象。Graph对象保存着网络的节点，每个节点代表一个Operation(add, matmul, etc)，节点之间由输入和输出链接起来。当建好了一个Graph对象之后，可以通过Graph.as_graph_def() 把它保存起来，as_graph_def() 返回一个 GraphDef对象。

GraphDef类是由ProtoBuf库创建的对象。它的定义在tensorflow/core/framework/graph.proto。 protobuf tools解析这个文本文件，然后生成代码用来加载，存储，和操作图定义。如果看到一个独立的用于表示模型(model)的Tensorflow文件，那么它很可能是由protobuf code 保存的序列化的GraphDef对象。

protobuf code 用来从硬盘上保存和加载GraphDef对象。加载对象的代码看起来像是这样:

#这行代码创建了一个空的 GraphDef 对象。GraphDef类已经由 graph.proto 中定义的文本 所创建。
#我们将用文本中的数据来填充这个对象
graph_def = tf.GraphDef()

if FLAGS.input_binary:
    with open("graph_def.pb", "rb") as f:
        graph_def.ParseFromString(f.read())
else:
    with open("graph_def.pb", mode='r') as f
        text_format.Merge(f.read(), graph_def)

译者注：txt_format是一个工具模块，from google.protobuf import text_format 可以引入。这里只是演示了如何load ProtoBuf，但是，并没有说明如何保存ProtoBuf，如果想要保存的话，tensorflow提供了一个接口 tf.train.write_graph(graph_def, "./", name='graph.pb')。用这个就可以保存成ProtoBuf。当然，加载的话，tensorflow也提供了一个接口: def import_graph_def(graph_def, input_map=None, return_elements=None, name=None, op_dict=None, producer_op_list=None)

Text or Binary

有两种不同的文件格式可以存储ProtoBuf。一个是TextFormat，人类可以很容易的理解，而且可以很容易的进行debugging或者editing，但是如果里面包含数值数据的话，那么这个文件就会变的很大。这里有一个例子 graph_run_run2.pbtxt 尴尬的是，官方给的这个例子找不到了。。。

另一种文件格式是 BinaryFormat，它比TextFormat所需的存储空间小，但是人类读不懂。在上面提供的脚本文件中，我们要求用户提供 flag 用来指示，我们读取的文件是 TextFormat还是BinaryFormat，这样我们才能够找到正确的方法去调用。这里有一个BinaryFormat的例子inception_v3 archive inception_v3_2016_08_28_frozen.pb.

不过API的设计着实让人懵逼-对于BinaryFormat ，我们调用 ParseFromString(), 对于TextFormat，我们使用text_format模块。

Nodes

一旦将文件加载到graph_def对象，你就可以访问内部的数据了。出于实用目的，最重要的部分是存储节点成员的节点列表。下面的循环代码可以获取到它们：

for node in graph_def.node:
    print(node)

每个节点(node)是一个NodeDef对象，定义在tensorflow/core/framework/node_def.proto.这些节点是Tensorflow中Graph的基本构件块，每个都定义了一个operation和它的输入连接。

下面将介绍 NodeDef的成员和其所代表的含义。

name

每个节点(Node) 应该有一个唯一的标识符，图中的其它节点不能使用该标识符(这个标识符就是name属性对应的值)。在使用tensorflow Python接口的时候，如果没有显示指定name属性，那么tensorflow会自动选择一个name，name的格式是 operation_name加上一个累加的数字。

name用来定义节点之间的连接，和在运行时为整个图形设置输入输出。

这个属性指明要执行哪个operation，例如"Add", "MatMul", 或者 "Conv2D"。当Graph运行起来的时候，就会在注册表中查找这些op的名称以找到其对应的实现。注册表是通过调用REGISTER_OP() 宏来填充的，就像这些tensorflow/core/ops/nn_ops.cc.

input

一个strings列表，列表中的每个元素是其它节点的名字，可选的在后面跟上一个冒号和输出端口号。例如：一个拥有两个输入的节点的input属性大概是这样的["some_node_name", "another_node_name"], 等价于["some_node_name:0", "another_node_name:0"],说明了，当前node的第一个输入是名字为"some_node_name"的Node的第一个输出，当前node的第二个输入是名字为"another_node_name"的Node的第一个输出。

我的测试结果是，现在的input在pdtxt中是下面这种形式，而不是文档中所说的 strings list input: “some_node_name” input: “another_node_name”

device

多数情况下，可以忽略这东西。它规定了在分布式情况下，哪个设备执行这个节点，或者是你想强制一个operation在CPU上或是GPU上运行。

attr

这个属性保存了key/value键值对，用来指定节点的所有属性。这是一个节点的永久属性，一旦指定，在运行时刻就不能再被修改了，例如：卷积核的大小，或者是constant op 的值。由于可能有多种不同类型的属性值，从strings，到int，再到tensor 值的 arrays。这里有单独的protobuf file文件，定义着这些数据结构tensorflow/core/framework/attr_value.proto.

每个属性拥有一个唯一的名字字符串，在定义operation的时候，期望的属性会被列出来。当一个属性没有在node中出现时，但是在定义op的时候，它有一个属性的默认值，那么这个默认值将会在创建图的时候使用。

在Python中，你可以通过调用 node.name, node.op, etc 访问所有的这些成员。在GraphDef中存储的节点列表是模型体系结构的完整定义。

Freezing

令人困惑的一点是 在训练过程中，权值通常不保存在 file format 中。相反，它们被保存在单独地检查点checkpoint文件中，初始化时，图中的Variable op用于加载最近的值。在部署到生产环境的时候，用于单独的文件通常会不方便。所以，这里有一个freeze_graph.py脚本文件，用于将 graph definition和一组checkpoints 冻结成一个文件。

在训练过程中，权值通常不保存在 file format 中，我觉着对这句话更精确的解释是：在训练过程中保存模型的时候，是将权值保存在 ckpt文件中的，回想一下 Saver，在训练过程中，权值还是保存在内存中的。

它是怎么做的呢？加载GraphDef，将所有的变量从最近的检查点文件中取出，然后将GraphDef中的Variable op 替换成 Const op, 这些Const op中保存着检查点中保存的变量的值。然后，它去掉GraphDef中与前向过程无关的节点，然后将处理后的GraphDef保存到输出文件中。

部署的时候，用这个玩意感觉爽的很。

Weight Formats

如果你正在处理一些表示神经网络的 TensorFlow模型，最常见的问题之一就是提取和解释权重值。存储它们的常用方法就是，用freeze_graph脚本处理GraphDef，将Variable op 换成 Const op，使用Const op将这些权重作为Tensor存储起来。Tensor被定义在tensorflow/core/framework/tensor.proto, Tensor 中不仅保存了权重的值，还保存了数据类型(int,float)和size。在Python中，可以通过表示 Const op的 NodeDef对象中获取TensorProto对象，就像

tensorProto = some_node_def.attr['value'].tensor

这段代码会返回一个表示权重数据的对象。数据本身会保存在一个列表中，这个列表的名字是suffix_val, suffix代表对象的数据类型，例如float_val 代表 32位浮点型。

当在不同的框架之间进行转换时，卷积权重的顺序是很难处理的。在Tensorflow中，Conv2D op的卷积核的存储在第二个输入上，期望的顺序是[filter_height, filter_width, input_depth, output_depth]，在这里，filter_count增加一意味着移动到内存中的相邻值。

希望这个纲要能让你更好地了解TensorFlow模型文件中正在发生的事情，如果你需要对它们进行操作的话，将会对你有所帮助。

翻译完毕，总结

本文中提到了以下几个概念：

GraphDef
- GraphDef中存储的节点列表是模型体系结构的完整定义
NodeDef
- 用于代表一个op及其输入输出
- name: name属性表示op的名字 name:ouput_index代表输出tensor
- input: 属性用于暴露op的输入

Demo

下面只是给出了一个简单的代码，这里也有一个示例。

保存为pb

import tensorflow as tf
t = tf.constant([[[1,2,3],[4,5,6]],[[1,2,3],[4,5,6]]])
paddings = tf.constant([[1,0], [2,2], [1,2]])

paded = tf.pad(t, paddings, "CONSTANT")

graph_def = tf.get_default_graph().as_graph_def()
print(graph_def)

tf.train.write_graph(graph_def, logdir="./", name='graph.pb', as_text=True)

打印出来的结果为：

node {
  name: "Const"
  op: "Const"
  attr {
    key: "dtype"
    value {
      type: DT_INT32
    }
  }
  attr {
    key: "value"
    value {
      tensor {
        dtype: DT_INT32
        tensor_shape {
          dim {
            size: 2
          }
          dim {
            size: 2
          }
          dim {
            size: 3
          }
        }
        tensor_content: "\001\000\000\000\002\000\000\000\003\000\000\000\004\000\000\000\005\000\000\000\006\000\000\000\001\000\000\000\002\000\000\000\003\000\000\000\004\000\000\000\005\000\000\000\006\000\000\000"
      }
    }
  }
}
node {
  name: "Const_1"
  op: "Const"
  attr {
    key: "dtype"
    value {
      type: DT_INT32
    }
  }
  attr {
    key: "value"
    value {
      tensor {
        dtype: DT_INT32
        tensor_shape {
          dim {
            size: 3
          }
          dim {
            size: 2
          }
        }
        tensor_content: "\001\000\000\000\000\000\000\000\002\000\000\000\002\000\000\000\001\000\000\000\002\000\000\000"
      }
    }
  }
}
node {
  name: "Pad"
  op: "Pad"
  input: "Const"
  input: "Const_1"
  attr {
    key: "T"
    value {
      type: DT_INT32
    }
  }
  attr {
    key: "Tpaddings"
    value {
      type: DT_INT32
    }
  }
}
versions {
  producer: 21
}

解析pb

import tensorflow
from google.protobuf import text_format

graph_def = tf.GraphDef()
#因为是文本文件，所以mode='r'，如果之前保存的是二进制文件 mode='rb'
with open("./graph.pb", mode='r') as file:
    text_format.Merge(file.read(), graph_def)

tf.import_graph_def(graph_def=graph_def, name='')

#get_tensor_by_name有一个需要注意的地方，就是 tensor的name需要是 op_name:output_index
padded = tf.get_default_graph().get_tensor_by_name("Pad:0")

with tf.Session() as sess:
    print(sess.run(padded))

当我们用这种方式只进行推断的时候，我们可以这么做：

获取placeholder tensor
feed 这些 tensor值
获取最后一层的tensor，然后sess.run打印出来结果就 OK

最后说明一下前面用到的几个方法

def import_graph_def(graph_def, input_map=None, return_elements=None,
                     name=None, op_dict=None, producer_op_list=None)
# name : 可选的，加在GraphDef中名字的前面，默认是import ，一般情况下，直接 name=''就可以了
# input_map: 没有测试到底是干嘛的，默认值就可以。

tf.train.write_graph(graph_or_graph_def, logdir, name, as_text=True)
# logdir: 导出的文件目录
# name: 导出时的文件名
# as_text: 是以Text形式 还是 binary 形式导出， 默认为True

z海清

关注

2
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
面向工具开发者的 TensorFlow 模型文件指南

大多数用户不需要关心tensorflow在硬盘上存储数据的细节问题的，但是如果你是一个 Tool developer，那就另当别论了。例如，如果你想分析模型(models)，或者想在tensorflow或者其它格式之间进行来回转换。这篇指南通过试着去解释一些如何处理保存着模型数据的文件的细节，使得开发者们做一些格式装换的工具更加简单。Protocol Buffers所有的Tensor...
复制链接

扫一扫