卷积神经网络-CNN

https://cs231n.github.io/assets/conv-demo/index.html

网络模型训练三剑客：归一化，dropout，以及激活函数。

1:神经网络常见激活函数


2: 卷积神经网络
卷积核，padding，和stride步长。

Padding的作用，为了保证输入输出矩阵的形状不变。

Stride是步长。

多通道卷积：

3: 防止过拟合的方法
1:DropOut随机将节点的输出变成0。
2:DropConnect随机将WX中的W变成0。
3:DisOut随机将节点的赋予不同的权重（0～1之间）