Tensorflow入门基础
第一
Tensorflow谷歌2015年开源
谷歌里面有一个工具tensorboard,在浏览器中直接查看运行即可视化
Anaconda的安装
Windows下Tensorflow的安装
在anaconda prompt中输入如下命令
安装CPU的版本:pip install tensorflow
安装GPU的版本:pip install tensorflow-gpu
第二
深度学习框架Tensorflow学习与应用
Tensorflow基本概念
使用图(graphs)来表示计算任务
在被称之为会话(Session)的上下文(context)中执行图
使用tensor表示数据
通过变量(Variable)维护状态
使用feed和fetch可以为任意的操作赋值或者从其中获取数据
Tensorflow是一个编程系统,使用图(graphs)来表示计算任务,图(graphs)中的节点称之为op(operation),一个op获得0个或多个Tensor,执行计算,产生0个或多个Tensor。Tensor 看作是一个 n 维的数组或列表。图必须在会话(Session)里被启动。
Tensorflow结构
2-1创建图、启动图
#将鼠标停留在某个函数之上,shift +tab 按两下,可以显示这个函数的解释
import tensorflow as tf
#创建一个常量op
m1 = tf.constant([[3, 3]])
#创建一个常量op
m2 = tf.constant([[2], [3]])
#创建一个矩阵乘法op,把m1和m2传入
product =tf.matmul(m1, m2)
print(product) #这里不是我们想要的结果
#定义一个会话,默认启动图
sess = tf.Session()
#调用sess的run方法来执行矩阵乘法
#run(product)触发了图中的3个op
result =sess.run(product)
print(result) #这里才可以得到我们想要的结果
sess.close()
2-2变量(写程序的时候一定要记得变量的初始)
##写一个基本的运算 import tensorflow as tf x = tf.Variable([1, 2]) a = tf.constant([3, 3]) #增加一个剑法op sub = tf.subtract(x, a) #增加一个加法op add = tf.add(x, a) #这一步很重要,必须对变量进行初始化才可以运行 #这句是将全局的变量都进行初始化 init = tf.global_variables_initializer() with tf.Session() as sess: sess.run(init) print(sess.run(sub)) print(sess.run(add)) #================================================ ##写一个循环 #创建一个变量初始化为0 state = tf.Variable(0, name = 'counter') #创建一个op,作用是使state加1 new_value = tf.add(state, 1) #赋值op,作用是将new_value赋值给state,赋值不可以用等号,必须使用函数assign() updata = tf.assign(state, new_value) #这一步很重要,必须对变量进行初始化才可以运行 #这句是将全局的变量都进行初始化 init = tf.global_variables_initializer() with tf.Session() as sess: sess.run(init) print(sess.run(state)) for _ in range(5): sess.run(updata) print(sess.run(state))
2-3 Fetch and Feed
#fetch: 取来;接来;到达;吸引 #feed: 喂养;供给;放牧;抚养(家庭等);靠…为生 #fetch在运算个前就得将值传递进去,feed可以在运算的时候再传递值进去 #Fetch import tensorflow as tf #Fetch在会话里执行多个op,得到多个结果 #这里会同时运行多个op,它们的运行顺序是自上而下的 input1 = tf.constant(2.0) input2 = tf.constant(3.0) input3 = tf.constant(5.0) add = tf.add(input1, input2) mul = tf.multiply(input1, add) with tf.Session() as sess: result = sess.run([mul, add]) print(result) #================================================================ #Feed #创建占位符 input4 = tf.placeholder(tf.float32) input5 = tf.placeholder(tf.float32) output = tf.multiply(input4, input5) with tf.Session() as sess: #feed的数据以字典的形式传入 result = sess.run(output, feed_dict = {input4:[2.0], input5:[4.0]}) print(result)
2-4 tensorflow的简单实例
import tensorflow as tf import numpy as np #使用numpy生成100个随机点,写一个线性方程 x_data = np.random.rand(100) y_data = x_data * 0.1 + 0.2 #构造一个线性模型 b = tf.Variable(0.0) k = tf.Variable(0.0) y = k * x_data + b #二次代价函数 loss = tf.reduce_mean(tf.square(y_data - y)) #定义一个梯度下降法来进行训练的优化器 optimizer = tf.train.GradientDescentOptimizer(0.2) #0.2为学习率 #最小化代价函数 train = optimizer.minimize(loss) #初始化变量 init = tf.global_variables_initializer() with tf.Session() as sess: sess.run(init) for step in range(201): sess.run(train) if step % 20 ==0: print(step, sess.run([k, b]))
第三
3-1 非线性回归
#3-1非线性回归问题
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
#使用numpy生成200个随机点
x_data = np.linspace(-0.5, 0.5)[:, np.newaxis]
noise = np.random.normal(0, 0.02, x_data.shape)
y_data = np.square(x_data) + noise
#定义两个placeholder
x =tf.placeholder(tf.float32, [None, 1])
y = tf.placeholder(tf.float32, [None, 1])
#d定义神经网络的中间层
Weights_L1 = tf.Variable(tf.random_normal([1, 10]))
biases_L1 = tf.Variable(tf.zeros([1, 10]))
Wx_plus_L1 = tf.matmul(x, Weights_L1) + biases_L1
L1 = tf.nn.tanh(Wx_plus_L1)
#定义神经网络的输出层
Weights_L2 =tf.Variable(tf.random_normal([10, 1]))
biases_L2 = tf.Variable(tf.zeros([1, 1]))
Wx_plus_L2 = tf.matmul(L1, Weights_L2) + biases_L2
prediction = tf.nn.tanh(Wx_plus_L2) #用函数显示出来
#二次代价函数
loss =tf.reduce_mean(tf.square(y - prediction))
#使用梯度下降训练法
trian_step =tf.train.GradientDescentOptimizer(0.1).minimize(loss)
with tf.Session() as sess:
#初始化变量
sess.run(tf.global_variables_initializer())
for _ in range(2000):
sess.run(trian_step, feed_dict={x:x_data, y:y_data})
#获得预测值
prediction_value = sess.run(prediction, feed_dict={x:x_data, y:y_data})
#print(prediction_value)
#画图
plt.figure()
plt.scatter(x_data, y_data)
plt.plot(x_data, prediction_value, 'r-', lw=5)
plt.show()
3-2MNIAT数据集分类
import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data #载入数据集 mnist = input_data.read_data_sets("MNIST_data",one_hot=True) #每个批次的大小,批次的大小会影响准确率 batch_size = 100 #计算一共有多少个批次 n_batch = mnist.train.num_examples // batch_size #定义两个placeholder x = tf.placeholder(tf.float32,[None,784]) y = tf.placeholder(tf.float32,[None,10]) #创建一个简单的神经网络(加隐藏层会影响准确率,初始化的方式和值也会影响准确率) W = tf.Variable(tf.zeros([784,10])) b = tf.Variable(tf.zeros([10])) prediction = tf.nn.softmax(tf.matmul(x,W)+b) #二次代价函数(不同的代价函数也会影响准确率) loss = tf.reduce_mean(tf.square(y-prediction)) # 此处若用交叉熵效果会比用二次代价函数更好 # loss = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(labels=y, logits=prediction)) #使用梯度下降法(不同的优化方法,不同的学习率,准确率都会不一样) train_step = tf.train.GradientDescentOptimizer(0.2).minimize(loss) #初始化变量 init = tf.global_variables_initializer() #结果存放在一个布尔型列表中 correct_prediction = tf.equal(tf.argmax(y,1),tf.argmax(prediction,1))#argmax返回一维张量中最大的值所在的位置 #求准确率 accuracy = tf.reduce_mean(tf.cast(correct_prediction,tf.float32)) with tf.Session() as sess: sess.run(init) for epoch in range(21): #训练次数也会影响准确率 for batch in range(n_batch): batch_xs,batch_ys = mnist.train.next_batch(batch_size) sess.run(train_step,feed_dict={x:batch_xs,y:batch_ys}) acc = sess.run(accuracy,feed_dict={x:mnist.test.images,y:mnist.test.labels}) print("Iter " + str(epoch) + ",Testing Accuracy " + str(acc))