深度学习思维导图

在线可以打开看，里面的链接都是我的笔记：ProcessOn版本

主要是深度学习的基本概念部分：
基本概念
模型
全连接层
反向传播
其他层的反向传播
POOL层的反向传播
BN层的反向传播
权重梯度
每一层的残差都由后一层的残差乘以两层之间的权重矩阵，再乘以当前层的激活函数的导数得到。
权重梯度由前面的激活值和后面的残差乘积得到的
梯度消失与梯度爆炸
神经网络vs递归神经网络vs玻尔兹曼机vs限制玻尔兹曼机
Restricted Boltzmann Machine
深度置信网络
卷积层
计算感受野
可视化卷积输出
画模型图
不同的卷积
正常卷积
1*1卷积
转置卷积
空洞卷积
分组卷积
深度可分卷积
激活函数
sigmoid
tanh
relu
Leaky ReLU
PReLU
为什么在饱和区就不更新了
输入数据方差很小集中在0附近会出现什么问题
池化层
maxpoll
average poll
全局平均池化
金字塔池化SPP
ROI POOl
ROI Align
归一化层
BN
目标函数
Loss
回归loss
平均绝对误差（MAE&