术语解释
1、神经网络:
- 构成:神经网络主要由输入层、输出层以及隐藏层构成,输入层的每个神经元代表着一个特征,隐藏层神经元个数以及隐藏层层数由人为设定,输出层神经元个数代表分类标签的个数。
- 神经网络的运作流程:每次输入数据传入时,激励函数激活不同的神经元,输入数据经过不同的路径得到输出数据,将输出数据与期望得到的输出数据比较得到损失函数,进而调整不同神经元的权重,重复此训练过程即可。
2、梯度下降 - 在深度学习中用梯度下降来最优化损失函数
安装tensorflow
此部分将拿出来单独讲
tensorflow实例:训练函数y = 0.1x + 0.3
- 导入模块
import tensorflow as tf
import numpy as np
- 生成数据
x_data = np.random.rand(100).astype(np.float32) //通过本函数可以返回一个或一组服从“0~1”均匀分布的随机样本值
y_data = x_data*0.1 + 0.3
- tensorflow结构代码块
Weights = tf.Variable(tf.random_uniform([1], -1.0, 1.0)) //tensorflow中必须定义变量
biases = tf.Variable(tf.zeros([1]))
y = Weights*x_data + biases
loss = tf.reduce_mean(tf.square(y-y_data)) //损失函数
optimizer = tf.train.GradientDescentOptimizer(0.5) //优化器
train = optimizer.minimize(loss)
- 定义session
sess = tf.Session() //相当于指针
- 训练参数
if int((tf.__version__).split('.')[1]) < 12 and int((tf.__version__).split('.')[0]) < 1:
init = tf.initialize_all_variables()
else:
init = tf.global_variables_initializer() //初始化变量
sess.run(init)
for step in range(201):
sess.run(train)
if step % 20 == 0:
print(step, sess.run(Weights), sess.run(biases))