Tensorflow入门基础知识
一、知识框架
二、内容概述
2.1 定义
TensorFlow是一个采用数据流图,用于数值计算的开源软件库。
2.2 特征
- 高度的灵活性
将计算表示为一个数据流图,构建图,描写驱动计算的内部循环,就可以使用Tensorflow - 真正的可移植性
Tensorflow 在CPU和GPU上运行,比如说可以运行在台式机、服务器、手机移动设备等等。 - 自动求微分
只需要定义预测模型的结构,将这个结构和目标函数(objective function)结合在一起,并添加数据,Tensorflow将自动为你计算相关的微分导数 - 多语言支持
Tensorflow 有一个合理的c++使用界面,也有一个易用的python使用界面来构建和执行graphs。 - 性能最优化
由于Tensorflow 给予了线程、队列、异步操作等以最佳的支持,可以将硬件的计算潜能全部发挥出来。用户可以自由地将Tensorflow图中的计算元素分配到不同设备上,Tensorflow可以管理好这些不同副本。
2.3 基本用法
通常需要经过三个步骤:构图(准备数据集)->启动Session(为了运算)->释放资源
2.3.1 构图
图中的股东被称为op (operation的缩写,即操作对象)。一个op获得0个或多个Tensor,执行计算,产生0个或多个Tensor。每个Tensor是一个类型化的多维数组。
op不需要特殊的输入,通常可以是常数、矩阵乘法 matmul op等。
import tensorflow as tf
# 构造器的返回值代表该常量 op 的返回值.
matrix1 = tf.constant([[3., 3.]])# 创建一个常量 op, 1x2 矩阵. 这个 op 被作为一个节点,加到默认图中.
matrix2 = tf.constant([[2.],[2.]])# 创建另外一个常量 op, 2x1 矩阵.
# 创建一个矩阵乘法 matmul op , 把 'matrix1' 和 'matrix2' 作为输入.
# 返回值 'product' 代表矩阵乘法的结果.
product = tf.matmul(matrix1, matrix2)
但是这只是构建,计算并没有开始,需要将默认图加入到Session会话中才能进行运算。接下来在2.3.2继续介绍。
2.3.2 计算过程
为了进行计算,图必须在Session里被启动。 会话将图的op分发到CPU或GPU之类的设备上,同时提供执行op的方法。这些方法执行后,将产生的张量返回。在Python语言中,返回的tensor是 numpy ndarray对象; 在C和C ++语言中,返回的tensor是 tensorflow::Tensor实例。
过程:启动默认图->传入想要取回的参数->op并发执行->
sess = tf.Session()# 启动默认图.
result = sess.run(product)# 返回值 'result' 是一个 numpy `ndarray` 对象.
print result# ==> [[ 12.]]
sess.close()# 任务完成, 关闭会话.
注:
1、 调用 sess 的 ‘run()’ 方法来执行矩阵乘法 op, 传入 ‘product’ 作为该方法的参数.
上面提到, ‘product’ 代表了矩阵乘法 op 的输出, 传入它是向方法表明, 我们希望取回
#矩阵乘法 op 的输出.
2、 整个执行过程是自动化的, 会话负责传递 op 所需的全部输入.
3、op 通常是并发执行的.
函数调用 ‘run(product)’ 触发了图中三个 op (两个常量 op 和一个矩阵乘法 op) 的执行.
4、在实现上,TensorFlow将图形定义转换成分布式执行的操作,以充分利用可用的计算资源(例如CPU或GPU)。
5、一般不需要显式指定使用CPU或GPU,TensorFlow能够自动检测。如果检测到GPU,TensorFlow会重置地利用找到的第一个GPU来执行操作。
当GPU不够使用时,需自主分配:with
with tf.Session() as sess:#使用with代码块释放资源
with tf.device("/gpu:1"):#分配指定的GPU 此表示第二个,0表示第一个
matrix1 = tf.constant([[3., 3.]])
matrix2 = tf.constant([[2.],[2.]])
product = tf.matmul(matrix1, matrix2)
...
6、交互使用:
为了便于使用诸如 IPython 之类的 Python 交互环境, 可以使用 InteractiveSession 代替 Session 类, 使用 Tensor.eval() 和 Operation.run() 方法代替 Session.run(). 这样可以避免使用一个变量来持有会话.
# 进入一个交互式 TensorFlow 会话.
import tensorflow as tf
sess = tf.InteractiveSession()
x = tf.Variable([1.0, 2.0])
a = tf.constant([3.0, 3.0])
# 使用初始化器 initializer op 的 run() 方法初始化 'x'
x.initializer.run()
# 增加一个减法 sub op, 从 'x' 减去 'a'. 运行减法 op, 输出结果
sub = tf.sub(x, a)
print sub.eval()
# ==> [-2. -1.]
7、变量维护图执行过程中的状态信息。因此驱动默认图后首先需要对变量进行初始化。
import tensorflow as tf
# 创建一个变量, 初始化为标量 0.
state = tf.Variable(0, name="counter")
# 创建一个 op, 其作用是使 state 增加 1
one = tf.constant(1)
new_value = tf.add(state, one)
update = tf.compat.v1.assign(state, new_value)
# 启动图后, 变量必须先经过`初始化` (init) op 初始化,
# 首先必须增加一个`初始化` op 到图中.
init_op = tf.compat.v1.initialize_all_variables()
# 启动图, 运行 op
with tf.compat.v1.Session() as sess:
sess.run(init_op) # 运行 'init' op
print(sess.run(state))# 打印 'state' 的初始值
# 运行 op, 更新 'state', 并打印 'state'
for i in range(3):
print(sess.run(update))
# 输出:0 1 2 3
2.3.3 Fetch与Feed
1、Fetch:为了取回操作的输出内容, 可以在使用 Session 对象的 run() 调用 执行图时, 传入一些 tensor, 这些 tensor 会帮助你取回结果. 在之前的例子里, 取回了单个节点 state, 但也可以取回多个 tensor:
import tensorflow as tf
input1 = tf.constant(3.0)
input2 = tf.constant(2.0)
input3 = tf.constant(5.0)
intermed = tf.add(input2, input3)
mul = tf.mul(input1, intermed)
with tf.Session():
result = sess.run([mul, intermed])
print result
# 输出:
# [array([ 21.], dtype=float32), array([ 7.], dtype=float32)]
2、Feed: 可以临时替代图中的任意操作中的 tensor 可以对图中任何操作提交补丁, 直接插入一个 tensor.
import tensorflow as tf
input1 = tf.placeholder(tf.types.float32)#提供占位符
input2 = tf.placeholder(tf.types.float32)
output = tf.mul(input1, input2)
#启动默认图,使用with代码块
with tf.Session() as sess:
print sess.run([output], feed_dict={input1:[7.], input2:[2.]})#使用字典
# 输出:
# [array([ 14.], dtype=float32)]