Tensorflow的使用方法和代码演示
第一部分
tensorflow的运行流程，主要分2步，分别是构造模型和训练
Tensorflow 中的几个概念是tensor,variable,placeholder,训练阶段需要session
1,tensor的意思是张量，其实就是矩阵，tensorflow 中的矩阵表示形式，
a=tf.zeros(shape=[1,2])
不过要注意，因为在训练之前，所有的数据都是抽象的概念，也就是说，此时的a只是表示1*2的零矩阵，而没有实际赋值，也没有分配空间，只有在训练过程开始之后，才能获取a的实际值，sess=tf.InteractiveSession(),print(sess.run(a))
2,variable
W=tf.Variable(tf.zeros(shape=[1,2]))
此时的w也是一个抽象化的概念，variable必须初始化之后才有具体的值。
初始化Tf.initialize_all_variables()
3,placeholder
又叫占位符，同样是一个抽象的概念，用于表示输入输出数据格式，
4，session是模型的抽象者
5，模型构建
模型中的所有元素（图结构，损失函数，下降方法，训练目标）
测试模型
实际训练
有了训练模型和测试模型，就可以训练啦，
模型搭建好之后，我们只需要给出输入输出就可以了。
第二部分
CNN层:
CNN相比于传统的神经网络，最大的区别就是引入了卷积层和池化层
Tf.nn.conv2d,卷积层，函数功能是给定4维的input和filter,计算出2维的卷积结果。
Conv2d(input,filter,strides,padding,use_cudnn_on_gpu=None,data_format=None,name=None):
卷积核就是算子就是权矩阵
卷积核：卷积时使用到的权用一个矩阵表示，该矩阵和使用的图像区域大小相同，是权矩阵。
第三部分
tensorflow的常用函数
1、矩阵操作
1.1这部分主要是将如何生成矩阵，包括0矩阵，全1矩阵，随机数矩阵，常数矩阵等，
Tf.ones|tf.zeros 产生尺寸为shape的张量(tensor)
Tf.ones_like|tf.zeros_like 新建一个与给定的tensor类型大小一致的tensor,其所有元素为1和0
Tf.fill 创建一个形状大小为shape的tensor，初始值为value
Tf.constant(value,dtype=None,shape=None,name=”Const”)
创建一个常量tensor,按照给出value来赋值，可以shape来指定其形状，value可以是一个数，也可以是一个list，如果是一个数，那么这个常数中的所有值按该数来赋值，如果是list，那么len(value)一定要小于等于shape展开后的长度，赋值时，先将value中的值逐个存入，不够的，按照存value的最后一个值。
Tf.random_normal|tf.truncated_normal|tf.random_uniform
Random_normal:正太分布随机数，均值mean,标准差stddev
Truncated_normal:截断正太分布随机数，均值mean,标准差 stddev
Random_uniform:均匀分布随机数
Tf.get_variable(name)
1.2矩阵变换
Tf.shape
Tf.expand_dims(tensor,dim),为张量+1维
Tf.pack 将一个R维张量列表沿着axis轴组合成一个R+1维张量
Tf.concat 将张量沿着指定维数拼接起来，和pack用法类似。
Tf.sparse_to_dense 稀疏矩阵转密集矩阵
Tf.random_shuffle 沿着value的第一维进行随机重新排列
Tf.argmax|tf.argmin 找到给定的张量tensor中在指定轴上的最大值/最小值的位置。
Tf.equal 判断两个tensor是否每个元素都相等，返回格式为bool的tensor
Tf.cast 将x的数据格式转化成dtype
Tf.matul 用来做矩阵乘法
Tf.reshape 就是将tensor按照shape重新排列
2.神经网络相关操作
Tf.nn.embedding_lookup 简单的讲，就是将一个数字序列ids转化成embedding序列表示。
Tf.trainable_variables 返回多有训练的变量
Tf.gradients 用来计算导数
Tf.nn.dropout 防止过拟合
3.普通操作
Tf.linspace|tf.range 产生等差数列
Tf.assign 用来更新模型中变量的值
4.规范化
Tf.variable_scope 就是为变量添加命名域
Tf.getvariable_scope 返回当前变量的命名域
tensorboard的使用
1.使用tf.scalar_summary来收集想要显示的变量。
Tf.scalar_summary(“loss”,loss)
2.定义一个summury op 用来汇总由scalar_summary 记录的所有变量
Summury_op=tf.merge_all_summaries()
3 生成一个summary writer对象，需要指定写入路径，例如：
summary writer=tf.train.summaryWriter()
4开始训练，分批喂数据
For(i in range(batch_num)):
#5.使用sess.run来得到merged_summary_op的返回值
Summary_str=sess.run(merged_summary_op)
#6 使用summary writer将运行中的loss值写入
Summary_writer.add_summary(summary_str,i)
$ tensorboard --logdir /tmp/logdir
127.0.0.1:6006
第四部分
例子：
"""A very simple MNIST classifier.
See extensive documentation at
http://tensorflow.org/tutorials/mnist/beginners/index.md
"""
from __future__ import absolute_import
from __future__ import division
from __future__ import print_function
# Import data
from tensorflow.examples.tutorials.mnist import input_data
import tensorflow as tf
flags = tf.app.flags
FLAGS = flags.FLAGS
flags.DEFINE_string('data_dir', '/tmp/data/', 'Directory for storing data') # 把数据放在/tmp/data文件夹中
mnist = input_data.read_data_sets(FLAGS.data_dir, one_hot=True) # 读取数据集
# 建立抽象模型
x = tf.placeholder(tf.float32, [None, 784]) # 占位符
y = tf.placeholder(tf.float32, [None, 10])
W = tf.Variable(tf.zeros([784, 10]))
b = tf.Variable(tf.zeros([10]))
a = tf.nn.softmax(tf.matmul(x, W) + b)
# 定义损失函数和训练方法
cross_entropy = tf.reduce_mean(-tf.reduce_sum(y * tf.log(a), reduction_indices=[1])) # 损失函数为交叉熵
optimizer = tf.train.GradientDescentOptimizer(0.5) # 梯度下降法，学习速率为0.5
train = optimizer.minimize(cross_entropy) # 训练目标：最小化损失函数
# Test trained model
correct_prediction = tf.equal(tf.argmax(a, 1), tf.argmax(y, 1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))
# Train
sess = tf.InteractiveSession() # 建立交互式会话
tf.initialize_all_variables().run()
for i in range(1000):
batch_xs, batch_ys = mnist.train.next_batch(100)
train.run({x: batch_xs, y: batch_ys})
print(sess.run(accuracy,feed_dict={x:mnist.test.images,y:mnist.test.labels}))
CNN代码
# Copyright 2015 The TensorFlow Authors. All Rights Reserved.
#
# Licensed under the Apache License, Version 2.0 (the "License");
# you may not use this file except in compliance with the License.
# You may obtain a copy of the License at
#
# http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing, software
# distributed under the License is distributed on an "AS IS" BASIS,
# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
# See the License for the specific language governing permissions and
# limitations under the License.
# ==============================================================================
"""A very simple MNIST classifier.
See extensive documentation at
http://tensorflow.org/tutorials/mnist/beginners/index.md
"""
from __future__ import absolute_import
from __future__ import division
from __future__ import print_function
# Import data
from tensorflow.examples.tutorials.mnist import input_data
import tensorflow as tf
flags = tf.app.flags
FLAGS = flags.FLAGS
flags.DEFINE_string('data_dir', '/tmp/data/', 'Directory for storing data') # 第一次启动会下载文本资料，放在/tmp/data文件夹下
print(FLAGS.data_dir)
mnist = input_data.read_data_sets(FLAGS.data_dir, one_hot=True)
def weight_variable(shape):
initial = tf.truncated_normal(shape, stddev=0.1) # 变量的初始值为截断正太分布
return tf.Variable(initial)
def bias_variable(shape):
initial = tf.constant(0.1, shape=shape)
return tf.Variable(initial)
def conv2d(x, W):
"""
tf.nn.conv2d功能：给定4维的input和filter，计算出一个2维的卷积结果
前几个参数分别是input, filter, strides, padding, use_cudnn_on_gpu, ...
input 的格式要求为一个张量，[batch, in_height, in_width, in_channels],批次数，图像高度，图像宽度，通道数
filter 的格式为[filter_height, filter_width, in_channels, out_channels]，滤波器高度，宽度，输入通道数，输出通道数
strides 一个长为4的list. 表示每次卷积以后在input中滑动的距离
padding 有SAME和VALID两种选项，表示是否要保留不完全卷积的部分。如果是SAME，则保留
use_cudnn_on_gpu 是否使用cudnn加速。默认是True
"""
return tf.nn.conv2d(x, W, strides=[1, 1, 1, 1], padding='SAME')
def max_pool_2x2(x):
"""
tf.nn.max_pool 进行最大值池化操作,而avg_pool 则进行平均值池化操作
几个参数分别是：value, ksize, strides, padding,
value: 一个4D张量，格式为[batch, height, width, channels]，与conv2d中input格式一样
ksize: 长为4的list,表示池化窗口的尺寸
strides: 窗口的滑动值，与conv2d中的一样
padding: 与conv2d中用法一样。
"""
return tf.nn.max_pool(x, ksize=[1, 2, 2, 1],
strides=[1, 2, 2, 1], padding='SAME')
sess = tf.InteractiveSession()
x = tf.placeholder(tf.float32, [None, 784])
x_image = tf.reshape(x, [-1,28,28,1]) #将输入按照 conv2d中input的格式来reshape，reshape
"""
# 第一层
# 卷积核(filter)的尺寸是5*5, 通道数为1，输出通道为32，即feature map 数目为32
# 又因为strides=[1,1,1,1] 所以单个通道的输出尺寸应该跟输入图像一样。即总的卷积输出应该为?*28*28*32
# 也就是单个通道输出为28*28，共有32个通道,共有?个批次
# 在池化阶段，ksize=[1,2,2,1] 那么卷积结果经过池化以后的结果，其尺寸应该是？*14*14*32
"""
W_conv1 = weight_variable([5, 5, 1, 32]) # 卷积是在每个5*5的patch中算出32个特征，分别是patch大小，输入通道数目，输出通道数目
b_conv1 = bias_variable([32])
h_conv1 = tf.nn.elu(conv2d(x_image, W_conv1) + b_conv1)
h_pool1 = max_pool_2x2(h_conv1)
"""
# 第二层
# 卷积核5*5，输入通道为32，输出通道为64。
# 卷积前图像的尺寸为 ?*14*14*32， 卷积后为?*14*14*64
# 池化后，输出的图像尺寸为?*7*7*64
"""
W_conv2 = weight_variable([5, 5, 32, 64])
b_conv2 = bias_variable([64])
h_conv2 = tf.nn.elu(conv2d(h_pool1, W_conv2) + b_conv2)
h_pool2 = max_pool_2x2(h_conv2)
# 第三层 是个全连接层,输入维数7*7*64, 输出维数为1024
W_fc1 = weight_variable([7 * 7 * 64, 1024])
b_fc1 = bias_variable([1024])
h_pool2_flat = tf.reshape(h_pool2, [-1, 7*7*64])
h_fc1 = tf.nn.elu(tf.matmul(h_pool2_flat, W_fc1) + b_fc1)
keep_prob = tf.placeholder(tf.float32) # 这里使用了drop out,即随机安排一些cell输出值为0，可以防止过拟合
h_fc1_drop = tf.nn.dropout(h_fc1, keep_prob)
# 第四层，输入1024维，输出10维，也就是具体的0~9分类
W_fc2 = weight_variable([1024, 10])
b_fc2 = bias_variable([10])
y_conv=tf.nn.softmax(tf.matmul(h_fc1_drop, W_fc2) + b_fc2) # 使用softmax作为多分类激活函数
y_ = tf.placeholder(tf.float32, [None, 10])
cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y_conv), reduction_indices=[1])) # 损失函数，交叉熵
train_step = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy) # 使用adam优化
correct_prediction = tf.equal(tf.argmax(y_conv,1), tf.argmax(y_,1)) # 计算准确度
accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))
sess.run(tf.initialize_all_variables()) # 变量初始化
for i in range(20000):
batch = mnist.train.next_batch(50)
if i%100 == 0:
# print(batch[1].shape)
train_accuracy = accuracy.eval(feed_dict={
x:batch[0], y_: batch[1], keep_prob: 1.0})
print("step %d, training accuracy %g"%(i, train_accuracy))
train_step.run(feed_dict={x: batch[0], y_: batch[1], keep_prob: 0.5})
print("test accuracy %g"%accuracy.eval(feed_dict={
x: mnist.test.images, y_: mnist.test.labels, keep_prob: 1.0}))
1478
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
