TensorFlow_Note(1)——数值训练

1 数值训练

示例代码

import tensorflow.compat.v1 as tf
import numpy as np

tf.disable_v2_behavior()
# create data
x_data = np.random.rand(100).astype(np.float32)
y_data = x_data * 0.1 + 0.3
# create tensorflow struct start
Weights = tf.Variable(tf.random_uniform((1,), -1.0, 1.0))
biases = tf.Variable(tf.zeros((1,)))
y = Weights * x_data + biases
loss = tf.reduce_mean(tf.square(y - y_data))
optimizer = tf.train.GradientDescentOptimizer(0.5)
train = optimizer.minimize(loss)
init = tf.initialize_all_variables()
# 创建session
sess = tf.Session()
sess.run(init)
for step in range(10000):
    sess.run(train)
    if step % 500 == 0:
        print(step, sess.run(Weights), sess.run(biases), sess.run(loss))

运行结果

0 [0.0735925] [0.43475837] 0.014796491
20 [0.07825027] [0.3117021] 3.725507e-05
40 [0.09383301] [0.30331805] 2.9951811e-06
60 [0.09825139] [0.3009408] 2.4080157e-07
80 [0.09950421] [0.30026677] 1.9359101e-08
100 [0.09985942] [0.30007565] 1.5563506e-09
120 [0.09996016] [0.30002147] 1.2511522e-10
140 [0.09998868] [0.3000061] 1.0097185e-11
160 [0.09999681] [0.30000174] 8.072654e-13
180 [0.09999908] [0.30000052] 6.8069994e-14
200 [0.09999974] [0.30000016] 5.9330317e-15  

可以看出，随着运行次数的增加，权值与偏差越来越接近目标值，误差率也越来越小

代码分析

  示例使用的是tensorflow 1.x版本，与2.x版本有较大的差别，故导入模块的时候需要将tensorflow改成tensorflow.compat.v1，在程序的开始需要屏蔽2.x版本功能。
  首先需要生成随机数用来进行训练，生成的时候注意注明类型为float32类型（tensorflow中绝大部分时候的数据类型都为float32）。

y_data = x_data * 0.1 + 0.3

训练的学习规则，将生成的随机数*0.1使其数据不会过大（猜测：在不改变其他代码的情况下改变此数值也会得到一样的学习目标）

biases = tf.Variable(tf.zeros((1,)))

偏差：得到一维的全0数据

loss = tf.reduce_mean(tf.square(y - y_data))

得到权值平均数

optimizer = tf.train.GradientDescentOptimizer(0.5)

梯度下降优化

train = optimizer.minimize(loss)

误差最小化优化

init = tf.initialize_all_variables()

初始化所有的变量，在v2版本为tf.global_initialize_all_variables()

sess = tf.Session()
or with tf.Session() as sess

创建对话

sess.run(init)

先初始化变量，tensorflow所有的操作必须通过sess.run()来实现，每进行一次操作都要run一次

for step in range(201):
    sess.run(train)
    if step % 20 == 0:
        print(step, sess.run(Weights), sess.run(biases), sess.run(loss))

每隔20次打印一次结果