神经网络的典型训练程序如下:
定义具有一些可学习参数(或权重)的神经网络
迭代输入数据集
通过网络处理输入
计算损失(输出距离正确多远)
将渐变传播回网络参数
通常使用简单的更新规则更新网络权重: weight = weight - learning_rate * gradient
神经网络的典型训练程序如下:
定义具有一些可学习参数(或权重)的神经网络
迭代输入数据集
通过网络处理输入
计算损失(输出距离正确多远)
将渐变传播回网络参数
通常使用简单的更新规则更新网络权重: weight = weight - learning_rate * gradient