Tensorflow使用技巧：通过graph.as_graph_def探索函数内部机制

Tensorflow有tf.Graph类，用于存储计算图。而计算图其实就是由节点和有向边组成，每个点包括操作Op、数值value、类型dtype、形状shape等属性。探索诸如tf.Variable()等函数的内部机制的过程中，就需要查看计算图的变化情况，包括新建了哪些节点，输入是什么等等。

例如想要探讨tf.constant函数的内部机制，则运行以下代码：

import tensorflow as tf

a = tf.constant(1)
print(tf.get_default_graph().as_graph_def())

返回

node {
  name: "Const"
  op: "Const"
  attr {
    key: "dtype"
    value {
      type: DT_INT32
    }
  }
  attr {
    key: "value"
    value {
      tensor {
        dtype: DT_INT32
        tensor_shape {
        }
        int_val: 1
      }
    }
  }
}
versions {
  producer: 22
}

就可以判断tf.constant函数其实仍然是有Operation的，为const，而值是用属性attr存储的。

进一步探讨tf.Variable机制，则同样运行以下代码：

import tensorflow as tf

a = tf.constant(1)
b = tf.Variable(a)
print(tf.get_default_graph().as_graph_def())

返回如下结果：

node {
  name: "ones"
  op: "Const"
  attr {
    key: "dtype"
    value {
      type: DT_FLOAT
    }
  }
  attr {
    key: "value"
    value {
      tensor {
        dtype: DT_FLOAT
        tensor_shape {
          dim {
            size: 1
          }
        }
        float_val: 1.0
      }
    }
  }
}
node {
  name: "Variable"
  op: "VariableV2"
  attr {
    key: "container"
    value {
      s: ""
    }
  }
  attr {
    key: "dtype"
    value {
      type: DT_FLOAT
    }
  }
  attr {
    key: "shape"
    value {
      shape {
        dim {
          size: 1
        }
      }
    }
  }
  attr {
    key: "shared_name"
    value {
      s: ""
    }
  }
}
node {
  name: "Variable/Assign"
  op: "Assign"
  input: "Variable"
  input: "ones"
  attr {
    key: "T"
    value {
      type: DT_FLOAT
    }
  }
  attr {
    key: "_class"
    value {
      list {
        s: "loc:@Variable"
      }
    }
  }
  attr {
    key: "use_locking"
    value {
      b: true
    }
  }
  attr {
    key: "validate_shape"
    value {
      b: true
    }
  }
}
node {
  name: "Variable/read"
  op: "Identity"
  input: "Variable"
  attr {
    key: "T"
    value {
      type: DT_FLOAT
    }
  }
  attr {
    key: "_class"
    value {
      list {
        s: "loc:@Variable"
      }
    }
  }
}
versions {
  producer: 22
}

发现虽然只是运行了一行代码，但是实际上添加了三个节点，分别是Variable、Variable/read和Variable/Assign，从字面理解可以猜测分别是作为存储器、读取接口和赋值接口。而这个assign的存在就是区分Variable和Tensor的重要标志（Variable是mutable的）。