Backpropagation反向传播
Gradient descent梯度下降
反向传播的实现细节如下:
- 计算输出层各个节点的误差
- 更新输出层的权重。
- 将输出层的误差传递给隐藏层
4.更新隐藏层的权重
Overfiting 训练集上效果好 测试集上效果不好
Dropout方法提测试集效果,暂时丢弃一些来解决过拟合问题。
Adma
Regularization
Regularization:在现有Features不变情况下,降低部分不重要Features的影响力。这个方法有助于有很多Features且每个Features都有贡献的Neural Network避免Overfitting。
效果不显著
Modularization