整理一下整个神经网络求解问题的流程(梯度下降法):
1. 初始化参数,参数主要很接近于0的数
2. t前向传播计算激活值
a(l)j
和
hΘ(x)
3. 计算代价函数
J(Θ)
4. 计算残差
δ(l)j
和梯度
∂J(Θ)∂Θji
5. 计算调整后参数
Θ
6. 通过近似的方法进行梯度检查,如果相差不大则关闭梯度检查
7. 调整参数,并将参数代入NN进行迭代的计算过程求解代价函数
J(Θ)
Coursera ML笔记 ----- NN求解总结
最新推荐文章于 2022-02-06 10:18:43 发布