神经网络与深度学习笔记系列一共有五个专题,分别是
第一章使用神经网络识别手写数字——梯度下降算法是什么。主要介绍了神经网络的基础例如感知器激活函数等概念,最主要介绍了梯度下降算法。
第二章反向传播算法如何工作——反向传播算法原理。主要介绍了反向传播算法的工作原理。
第三章改变神经网络的学习方法——代价函数,规范化,过拟合。主要介绍了不同的代价函数,以及规范化等对传统代价函数的改造。
第四章深度神经网络为何难以训练——梯度消失和爆炸。主要介绍了梯度消失问题和梯度爆炸问题。
第五章深度学习
5.1卷积神经网络的原理
卷积神经网络(Convolutional Neural Networks, CNN)是一种特别适应于识别图像的网络结构,它包括局部感受野(local receptive fields),共享权重(shared weights)和池化层(pooling)。
局部感受野:和全连接网络不同同,对于卷积神经网络,网络的输入是图像&