背景:打算学习CNN,上一周看了莫烦的Python课程,目前看到了P28 18.3 CNN卷积神经网络
视频链接:https://www.bilibili.com/video/av16001891/?p=29
莫烦源代码:https://github.com/MorvanZhou/tutorials/tree/master/tensorflowTUT
笔记中只记录了部分原理,代码都放在文件夹中,可参考莫烦的源代码。
SGD:Stochastic Gradient Descent随机梯度下降法
其中SGD并不是最快的优化算法,我们可以用下图来看
该图为P18 优化器Optimizer加速神经网络训练(深度学习)中的图。SGD路线最短,速度最慢。
接