深度学习笔记

一.卷积神经网络

1.用途：

         检测任务、分类和检索、超分辨率重构、医学任务、无人驾驶、人脸识别。

2.卷积神经网络（CNN）——CV（计算机视觉）与传统神经网络的区别：

3.整体架构：

4.卷积做了什么事：

                        一个通道：

                图像颜色通道：

                整体计算方式：

                 堆叠的卷积层：

5.卷积层设计参数：

                步长：

                边缘填充：

                卷积核计算结果：

                卷积参数共享：

6.池化层：（压缩、下采样）

7.整体步骤：

                特征图变换：

8.经典网络架构：

                残差网络：

9.感受野：

二.递归神经网络（RNN）—— NLP（自然语言处理）：

转为三维向量

三.LSIM网络：

        在RNN上改进，加入一个C控制单元，控制当前模型复杂度

四.词向量模型——Word2Vec

CBOW模型：

Skipgram：

负采样模型（Negative Sampling）：

        加入一些负样本（人为构建出来的 ）5个合适

词向量训练过程：

补充 反向传播（BP）原理

“反向传播算法”过程及公式推导（超直观好懂的Backpropagation）-CSDN博客