Tensorflow基础学习极简版

一、知识框架

二、内容概述

2.1 定义

TensorFlow是一个采用数据流图，用于数值计算的开源软件库。

2.2 特征

• 高度的灵活性
  将计算表示为一个数据流图，构建图，描写驱动计算的内部循环，就可以使用Tensorflow
• 真正的可移植性
  Tensorflow 在CPU和GPU上运行，比如说可以运行在台式机、服务器、手机移动设备等等。
• 自动求微分
  只需要定义预测模型的结构，将这个结构和目标函数（objective function）结合在一起，并添加数据，Tensorflow将自动为你计算相关的微分导数
• 多语言支持
  Tensorflow 有一个合理的c++使用界面，也有一个易用的python使用界面来构建和执行graphs。
• 性能最优化
  由于Tensorflow 给予了线程、队列、异步操作等以最佳的支持，可以将硬件的计算潜能全部发挥出来。用户可以自由地将Tensorflow图中的计算元素分配到不同设备上，Tensorflow可以管理好这些不同副本。

2.3 基本用法

通常需要经过三个步骤：构图(准备数据集)->启动Session(为了运算)->释放资源

2.3.1 构图

图中的股东被称为op （operation的缩写，即操作对象）。一个op获得0个或多个Tensor，执行计算，产生0个或多个Tensor。每个Tensor是一个类型化的多维数组。
op不需要特殊的输入，通常可以是常数、矩阵乘法 matmul op等。

import tensorflow as tf
# 构造器的返回值代表该常量 op 的返回值.
matrix1 = tf.constant([[3., 3.]])# 创建一个常量 op, 1x2 矩阵. 这个 op 被作为一个节点,加到默认图中.
matrix2 = tf.constant([[2.],[2.]])# 创建另外一个常量 op,  2x1 矩阵.
# 创建一个矩阵乘法 matmul op , 把 'matrix1' 和 'matrix2' 作为输入.
# 返回值 'product' 代表矩阵乘法的结果.
product = tf.matmul(matrix1, matrix2)

但是这只是构建，计算并没有开始，需要将默认图加入到Session会话中才能进行运算。接下来在2.3.2继续介绍。

2.3.2 计算过程

为了进行计算，图必须在Session里被启动。 会话将图的op分发到CPU或GPU之类的设备上，同时提供执行op的方法。这些方法执行后，将产生的张量返回。在Python语言中，返回的tensor是 numpy ndarray对象; 在C和C ++语言中，返回的tensor是 tensorflow::Tensor实例。
过程：启动默认图->传入想要取回的参数->op并发执行->

sess = tf.Session()# 启动默认图.
result = sess.run(product)# 返回值 'result' 是一个 numpy `ndarray` 对象.
print result# ==> [[ 12.]]
sess.close()# 任务完成, 关闭会话.

注：
1、 调用 sess 的 ‘run()’ 方法来执行矩阵乘法 op, 传入 ‘product’ 作为该方法的参数.
上面提到, ‘product’ 代表了矩阵乘法 op 的输出, 传入它是向方法表明, 我们希望取回
#矩阵乘法 op 的输出.
2、 整个执行过程是自动化的, 会话负责传递 op 所需的全部输入.
3、op 通常是并发执行的.
函数调用 ‘run(product)’ 触发了图中三个 op (两个常量 op 和一个矩阵乘法 op) 的执行.
4、在实现上，TensorFlow将图形定义转换成分布式执行的操作，以充分利用可用的计算资源（例如CPU或GPU）。
5、一般不需要显式指定使用CPU或GPU，TensorFlow能够自动检测。如果检测到GPU，TensorFlow会重置地利用找到的第一个GPU来执行操作。
当GPU不够使用时，需自主分配：with

with tf.Session() as sess:#使用with代码块释放资源
  with tf.device("/gpu:1"):#分配指定的GPU 此表示第二个，0表示第一个
    matrix1 = tf.constant([[3., 3.]])
    matrix2 = tf.constant([[2.],[2.]])
    product = tf.matmul(matrix1, matrix2)
    ...

6、交互使用：
为了便于使用诸如 IPython 之类的 Python 交互环境, 可以使用 InteractiveSession 代替 Session 类, 使用 Tensor.eval() 和 Operation.run() 方法代替 Session.run(). 这样可以避免使用一个变量来持有会话.

# 进入一个交互式 TensorFlow 会话.
import tensorflow as tf
sess = tf.InteractiveSession()

x = tf.Variable([1.0, 2.0])
a = tf.constant([3.0, 3.0])

# 使用初始化器 initializer op 的 run() 方法初始化 'x' 
x.initializer.run()

# 增加一个减法 sub op, 从 'x' 减去 'a'. 运行减法 op, 输出结果 
sub = tf.sub(x, a)
print sub.eval()
# ==> [-2. -1.]

7、变量维护图执行过程中的状态信息。因此驱动默认图后首先需要对变量进行初始化。

import tensorflow as tf
# 创建一个变量, 初始化为标量 0.
state = tf.Variable(0, name="counter")

# 创建一个 op, 其作用是使 state 增加 1
one = tf.constant(1)
new_value = tf.add(state, one)
update = tf.compat.v1.assign(state, new_value)

# 启动图后, 变量必须先经过`初始化` (init) op 初始化,
# 首先必须增加一个`初始化` op 到图中.
init_op = tf.compat.v1.initialize_all_variables()

# 启动图, 运行 op
with tf.compat.v1.Session() as sess:
    sess.run(init_op) # 运行 'init' op
    print(sess.run(state))# 打印 'state' 的初始值
  # 运行 op, 更新 'state', 并打印 'state'
    for i in range(3):
        print(sess.run(update))
    
# 输出:0 1 2 3

2.3.3 Fetch与Feed

1、Fetch：为了取回操作的输出内容, 可以在使用 Session 对象的 run() 调用 执行图时, 传入一些 tensor, 这些 tensor 会帮助你取回结果. 在之前的例子里, 取回了单个节点 state, 但也可以取回多个 tensor:

import tensorflow as tf
input1 = tf.constant(3.0)
input2 = tf.constant(2.0)
input3 = tf.constant(5.0)
intermed = tf.add(input2, input3)
mul = tf.mul(input1, intermed)

with tf.Session():
  result = sess.run([mul, intermed])
  print result

# 输出:
# [array([ 21.], dtype=float32), array([ 7.], dtype=float32)]

2、Feed: 可以临时替代图中的任意操作中的 tensor 可以对图中任何操作提交补丁, 直接插入一个 tensor.

import tensorflow as tf
input1 = tf.placeholder(tf.types.float32)#提供占位符
input2 = tf.placeholder(tf.types.float32)
output = tf.mul(input1, input2)
#启动默认图，使用with代码块
with tf.Session() as sess: 
  print sess.run([output], feed_dict={input1:[7.], input2:[2.]})#使用字典

# 输出:
# [array([ 14.], dtype=float32)]