tensorflow学习之添加层并简单训练

import tensorflow as tf
import numpy as np


def add_layer(inputs, in_size,out_size,activation_function=None):
    Weights = tf.Variable(tf.random_normal([in_size,out_size]))
    biases = tf.Variable(tf.zeros([1,out_size])+0.1)
    Wx_plus_b = tf.matmul(inputs,Weights)+biases
    if activation_function is None:
        outputs = Wx_plus_b
    else:
        outputs = activation_function(Wx_plus_b)
    return outputs


x_data = np.linspace(-1,1,300)[:,np.newaxis]  #300行
noise = np.random.normal(0,0.05,x_data.shape)
y_data = np.square(x_data)-0.5+noise

xs = tf.placeholder(tf.float32,[None,1])
ys = tf.placeholder(tf.float32,[None,1])

l1 = add_layer(xs,1,10,activation_function=tf.nn.relu)
prediction = add_layer(l1,10,1,activation_function=None)
loss = tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),
                                    reduction_indices=[1]))
train_step = tf.train.GradientDescentOptimizer(0.1).minimize(loss)
init = tf.initialize_all_variables()
sess = tf.Session()
sess.run(init)

for i in range(100):
    sess.run(train_step,feed_dict={xs:x_data,ys:y_data})
    if i%50==0:
        print(sess.run(loss,feed_dict={xs:x_data,ys:y_data}))
        print(x_data)

结果可视化：

matplotlib的标准使用流程为：

• 创建一个Figure实例对象fig
• 使用fig实例创建一个或者多个Axes实例，或者创建一个或者多个Subplot实例
• 使用Axes实例的方法来创建primitive

import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt


def add_layer(inputs, in_size,out_size,activation_function=None):
    Weights = tf.Variable(tf.random_normal([in_size,out_size]))
    biases = tf.Variable(tf.zeros([1,out_size])+0.1)
    Wx_plus_b = tf.matmul(inputs,Weights)+biases
    if activation_function is None:
        outputs = Wx_plus_b
    else:
        outputs = activation_function(Wx_plus_b)
    return outputs


x_data = np.linspace(-1,1,300)[:,np.newaxis]  #300行
noise = np.random.normal(0,0.05,x_data.shape)
y_data = np.square(x_data)-0.5+noise

xs = tf.placeholder(tf.float32,[None,1])
ys = tf.placeholder(tf.float32,[None,1])

l1 = add_layer(xs,1,10,activation_function=tf.nn.relu)
prediction = add_layer(l1,10,1,activation_function=None)
loss = tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),
                                    reduction_indices=[1]))
train_step = tf.train.GradientDescentOptimizer(0.1).minimize(loss)
init = tf.initialize_all_variables()
sess = tf.Session()
sess.run(init)


fig = plt.figure()  # 生成一个图片框
ax = fig.add_subplot(1,1,1)
ax.scatter(x_data,y_data)
plt.ion()  # show的时候不暂停
plt.show()  # 显示真实数据

for i in range(1000):
    sess.run(train_step,feed_dict={xs:x_data,ys:y_data})
    if i%50 == 0:
        # print(sess.run(loss,feed_dict={xs:x_data,ys:y_data}))
        try:  # 先抹除再画线,忽略第一次的错误
            ax.lines.remove(lines[0])
        except Exception:
            pass
        prediction_value = sess.run(prediction,feed_dict={xs:x_data})
        lines = ax.plot(x_data,prediction_value,'r-',lw=5)
        plt.pause(0.1)  # 暂停0.1秒

Figure 的一些方法

1. add_axes(*args, **kwargs)：创建一个Axes对象。如果已经存在同样位置同样参数的一个Axes，则返回该Axes，并将其设为current Axes。其参数有：

   • rect:一个元组，代表了(left,bottom,width,height)，它是第一个位置参数
   • axisbg：一个color，背景色
   • frameon：布尔值，是否display frame
   • sharex：另一个Axes对象，与该Axes共享 xaxis
   • sharey：另一个Axes对象，与该Axes共享 yaxis
   • projection：坐标系类型。projection='polar'也等价于polar=True
   • aspect：一个数值，指定x和y轴每个单位的尺寸比例。也可以设定为字符串'equal'/'auto'
   • 关键字参数为projection+Axes的合法关键字

   如果你想在同样的一个rect创建两个Axes，那么你需要设置label参数。不同的Axes通过不同的label鉴别。

   如果你使用了fig.delaxes()从Figure中移除了ax，那么你可以通过fig.add_exes(ax)来将其放回。

2. add_subplot(*args,**kwargs)：创建一个subplot。如果已经存在同样位置同样参数的一个subplot，则返回该subplot，并将其设为current Axes。

   • 关键字参数为projection+Axes的合法关键字。projection：坐标系类型。projection='polar'也等价于polar=True
   • 位置参数为：add_subplot(nrows, ncols, plot_number)。表示nrows行， nclos列每个单元格是一个sub-axes。plot_number给出了指定的sub-axes，从 1开始。最大为nrows*ncols。当这三个数字都是个位数时，可以使用一个三位数代替，每位代表一个数。
   • axisbg：一个color，背景色
   • frameon：布尔值，是否display frame
   • sharex：另一个Axes对象，与该Axes共享 xaxis
   • sharey：另一个Axes对象，与该Axes共享 yaxis
   • projection：坐标系类型。projection='polar'也等价于polar=True
   • aspect：一个数值，指定x和y轴每个单位的尺寸比例。也可以设定为字符串'equal'/'auto'