为了使用TensorFlow,我们需要明白什么是Tensorflow。下面介绍Tensorflow的5个特征:
- 用图来表示计算过程
- 用Sessions(会话)来执行图
- 使用tensors来表示数据
- 使用Variables来维护状态
- 使用feeds和fetches操作对任意的操作取出或者存入数据
1. 综述
Tensorflow是一个编程系统,你需要把计算用图来表示。图中的节点被称作ops(操作,operation的缩写)。一个操作的输入时0个或多个的Tensors,用来进行一些计算,然后产生0个或多个的Tensors输出。我们可以把Tensor当做是一个多维矩阵。例如,我们可以把一个堆(batch)的图片表示成一个4-D的矩阵,[batch, height, width, channels]。
一个Tensorflow图描绘一个计算过程。为了完成计算,在一个会话(Session)中启动图(graph)。会话将图中的操作分配给设备,例如CPUs,GPUs,然后提供一些方法去执行他们。这些方法执行后,将产生的 tensor 返回。在 Python 语言中,返回的 tensor 是 numpy ndarray 对象;在 C 和 C++ 语言中, 返回的 tensor 是tensorflow::Tensor 实例.
2. 计算图
一个Tensorflow程序通常分为两个阶段——构建阶段,执行阶段。构建阶段是搭建一幅图,执行阶段是使用一个会话来完成图中的操作。
例如,我们在构建阶段构造一个图来描述神经网络的结构和训练过程,然后在执行阶段在图上重复的执行训练操作。
Tensorflow支持C,C++和Python语言。目前,TensorFlow 的 Python 库更加易用,它提供了大量的辅助函数来简化构建图的工作,这些函数尚未被 C 和 C++ 库支持。
2.1 构建图
刚开始我们构造一个不含输入操作(源节点),例如Constant,然后把这个操作的输出作为其它操作的输入。
TensorFlow Python 库有一个默认图 (default graph),op 构造器可以为其增加节点。这个默认图对 许多程序来说已经足够用了。阅读 Graph 类 文档 来了解如何管理多个图。
import tensorflow as tf
# 创建一个常量 op, 产生一个 1x2 矩阵. 这个 op 被作为一个节点
# 加到默认图中.
# 构造器的返回值代表该常量 op 的返回值.
matrix1 = tf.constant([[3., 3.]])
# 创建另外一个常量 op, 产生一个 2x1 矩阵.
matrix2 = tf.constant([[2.],[2.]])
# 创建一个矩阵乘法 matmul op , 把 'matrix1' 和 'matrix2' 作为输入.
# 返回值 'product' 代表矩阵乘法的结果.
product = tf.matmul(matrix1, matrix2)
2.2 在一个会话中启动图
构建完图之后,需要创建一个session对象来启动图。
# 启动默认图.
sess = tf.Session()
# 调用 sess 的 'run()' 方法来执行矩阵乘法 op, 传入 'product' 作为该方法的参数.
# 上面提到, 'product' 代表了矩阵乘法 op 的输出, 传入它是向方法表明, 我们希望取回
# 矩阵乘法 op 的输出.
# 整个执行过程是自动化的, 会话负责传递 op 所需的全部输入. op 通常是并发执行的.
# 函数调用 'run(product)' 触发了图中三个 op (两个常量 op 和一个矩阵乘法 op) 的执行.
# 返回值 'result' 是一个 numpy `ndarray` 对象.
result = sess.run(product)
print result
# ==> [[ 12.]]
# 任务完成, 关闭会话.
sess.close()
除了显示的close掉外,还可以用with语句自动的close,用法和python打开文件类似:
with tf.Session() as sess:
result = sess.run([product])
print result
2.3 交互式使用
使用2.2中的方法,每次运行一个节点都需要session.run(节点名),十分不方便。有时候需要交互式的看结果。tensorflow提供了InteractiveSession类来代替session类。
# 进入一个交互式 TensorFlow 会话.
import tensorflow as tf
sess = tf.InteractiveSession()
x = tf.Variable([1.0, 2.0])
a = tf.constant([3.0, 3.0])
# 使用初始化器 initializer op 的 run() 方法初始化 'x'
x.initializer.run()
# 增加一个减法 sub op, 从 'x' 减去 'a'. 运行减法 op, 输出结果
sub = tf.sub(x, a)
print sub.eval()
# ==> [-2. -1.]
因为图中的输入不再全是常量,x是一个变量,所以启动图前需要对图中变量进行初始化。
2.4 tensorflow中数据的表示
tensorflow中用tensor来表示数据,无论这个数据是常量还是变量,一维数组或者是二维数组。一个tensor包含一个静态类型rank和一个shape。
2.5 变量
变量是tensorflow中最常用的一种数据类型。下面的例子演示了如何使用变量实现一个简单的计数器。
# 创建一个变量, 初始化为标量 0.
state = tf.Variable(0, name="counter")
# 创建一个 op, 其作用是使 state 增加 1
one = tf.constant(1)
new_value = tf.add(state, one)
update = tf.assign(state, new_value)
# 启动图后, 变量必须先经过`初始化` (init) op 初始化,
# 首先必须增加一个`初始化` op 到图中.
init_op = tf.initialize_all_variables()
# 启动图, 运行 op
with tf.Session() as sess:
# 运行 'init' op
sess.run(init_op)
# 打印 'state' 的初始值
print sess.run(state)
# 运行 op, 更新 'state', 并打印 'state'
for _ in range(3):
sess.run(update)
print sess.run(state)
# 输出:
# 0
# 1
# 2
# 3
在sess.run()之前任何一个节点都不会被运行,tf.add、tf.assign、tf.initialize_all_variables这些语句只是告诉计算机这些节点是怎么运算的,并没有真正的去运算。真正的运算是在他们被run的时候。
2.6 Fetch
我们还可以在一个run中,同时执行多个操作。
import tensorflow as tf
input1 = tf.constant(3.0)
input2 = tf.constant(2.0)
input3 = tf.constant(5.0)
intermed = tf.add(input2, input3)
mul = tf.mul(input1, intermed)
with tf.Session() as sess:
result1, result2 = sess.run([mul, intermed])
print result1
print result2
2.7 Feed
有的时候在构建图的时候,还不太确定输入是什么。或者为了灵活性,输入可以是多种变量。在定义输入的时候,可以使用placeholder对象先占个坑,之后的运算节点的定义和以前一样。不同之处在于,run的时候需要指定输入。
input1 = tf.placeholder(tf.float32)
input2 = tf.placeholder(tf.float32)
output = tf.mul(input1, input2)
with tf.Session() as sess:
print sess.run([output], feed_dict={input1:[7.], input2:[2.]})
# 输出:
# [array([ 14.], dtype=float32)]
tensorflow的基本用法就是这些,之后将针对一些具体的应用更加深入的介绍tensorflow的用法。