深度学习笔记

视频地址：21 卷积层里的多输入多输出通道【动手学深度学习v2】_哔哩哔哩_bilibili

卷基层-多个输入通道

原始图片是2（channel）*3*3对应的卷积核个数也是2， 但是只有一组卷积核，所以输出是 1*2*2

即：

1 x 1卷积层

VGG的核心思想

GoogLeNet 核心 inception块概念

注：在GoogLeNet inception V3中引入了 BN

 BN 思想：固定住每一层输出的分布，即均值和方差

BN的使用

加速收敛可以用更大的学习率训练

ResNet核心思想

resnet 块的类型

residual 怎么处理梯度消失的？

乘法变加法

RNN 的更多应用

门控循环单元（GRU）

LSTM

总结：

总结：GRU和SLTM对比，效果差不多，因为SLTM比GRU复杂一点点所以效果稍微好那么一点点，这两个用哪个都可以。

深层循环神经网络

注意力分数和注意力权重区别：