CNN和RNN学习记录

2018/6/8学习记录

标签（空格分隔）： 记录 深度学习

---

深度学习的一般性原则：先通过非监督学习对网络逐层进行贪婪的预训练，再用监督学习对网络进行微调。通过预训练的方式可以为深度神经网络提供较为理想的初始参数，降低了深度神经网络的优化程度。
深度学习中一些DL模型：堆栈式自动编码器（Stacked Auto-Encoder SAE),限制玻尔兹曼机（Restricted Boltzmann Machine RBM),深度信念网络（Deep Belief Network DBN),循环神经网络（Recurrent Neural Network RNN),卷积神经网络（Convolutional Neural Network CNN)。

---

##循环神经网络（RNN）

---

##卷积神经网络（CNN）
一维卷积：主要用在信号处理中。
二维卷积：二维卷积主要是用在图像处理中，在计算时通过卷积核（滤波器）来提取特征，不同的卷积核可以得到不同的特征，图像经过卷积操作后得到的结果也叫作特征映射，二维卷积计算时会发生翻转（就是从两个维度，从上到下，从左到右翻转次序，旋转180°）。
互相关（不翻转卷积）：卷积核的作用就是从图像中提取出需要的特征，计算卷积时需要进行卷积翻转，因此