TF 神经网络 北大课程

• 1 生成样本：

 8 #基于seed产生随机数
  9 rdm = np.random.RandomState(SEED)
 10 #随机数返回32行2列的矩阵 表示32组 体积和重量 作为输入数据集
 11 X = rdm.rand(32,2)

• 打印中间参数

 39     print "w1:\n", sess.run(w1)
 40     print "w2:\n", sess.run(w2)
 41     print "\n"

•  43     # 训练模型。
  

STEPS = 3000

 45     for i in range(STEPS):

 46         start = (i*BATCH_SIZE) % 32

 47         end = start + BATCH_SIZE

 48         sess.run(train_step, feed_dict={x: X[start:end], y_: Y_[start:end]})

 49         if i % 500 == 0:  每500次

 50             total_loss = sess.run(loss_mse, feed_dict={x: X, y_: Y_})

 51             print("After %d training step(s), loss_mse on all data is %g" %     (i, total_loss))

#coding:utf-5
  2 #0导入模块，生成模拟数据集。
  3 import tensorflow as tf
  4 import numpy as np
  5 BATCH_SIZE = 8
  6 SEED = 23455
  7
  8 #基于seed产生随机数
  9 rdm = np.random.RandomState(SEED)
 10 #随机数返回32行2列的矩阵 表示32组 体积和重量 作为输入数据集
 11 X = rdm.rand(32,2)
 12 #从X这个32行2列的矩阵中 取出一行 判断如果和小于1 给Y赋值1 如果和不小于1 给Y>    赋值0
 13 #作为输入数据集的标签（正确答案）
 14 Y_ = [[int(x0 + x1 < 1)] for (x0, x1) in X]
 15 print "X:\n",X
 16 print "Y_:\n",Y_
 17
 18 #1定义神经网络的输入、参数和输出,定义前向传播过程。
 19 x = tf.placeholder(tf.float32, shape=(None, 2))
 20 y_= tf.placeholder(tf.float32, shape=(None, 1))
 21
 22 w1= tf.Variable(tf.random_normal([2, 3], stddev=1, seed=1))
 w2= tf.Variable(tf.random_normal([3, 1], stddev=1, seed=1))
 24
 25 a = tf.matmul(x, w1)
 26 y = tf.matmul(a, w2)
 27
 28 #2定义损失函数及反向传播方法。
 29 loss_mse = tf.reduce_mean(tf.square(y-y_))
 30 train_step = tf.train.GradientDescentOptimizer(0.001).minimize(loss_mse)
 31 #train_step = tf.train.MomentumOptimizer(0.001,0.9).minimize(loss_mse)
 32 #train_step = tf.train.AdamOptimizer(0.001).minimize(loss_mse)
 33
 34 #3生成会话，训练STEPS轮
 35 with tf.Session() as sess:
 36     init_op = tf.global_variables_initializer()
 37     sess.run(init_op)
 38     # 输出目前（未经训练）的参数取值。
 39     print "w1:\n", sess.run(w1)
 40     print "w2:\n", sess.run(w2)
 41     print "\n"
 42
 43     # 训练模型。
STEPS = 3000
 45     for i in range(STEPS):
 46         start = (i*BATCH_SIZE) % 32
 47         end = start + BATCH_SIZE
 48         sess.run(train_step, feed_dict={x: X[start:end], y_: Y_[start:end]})
 49         if i % 500 == 0:
 50             total_loss = sess.run(loss_mse, feed_dict={x: X, y_: Y_})
 51             print("After %d training step(s), loss_mse on all data is %g" %     (i, total_loss))
 52
 53     # 输出训练后的参数取值。
 54     print "\n"
 55     print "w1:\n", sess.run(w1)
 56     print "w2:\n", sess.run(w2)
 57