搞懂深度学习中的 residual blocks（残差块）看这一篇文章就够了！！！

残差块包括skip connection

一、什么是残差块？

所谓的残差网络其实就是由若干残差块（residual block）组成的网络

如上图所示，现在考虑第l、l+1、l+2层。
a[l]是第l层的输出，在普通的神经网络中，要经过l+1层的计算和放大，才会进入到l+2层。

而在残差块中，除了上面的正常的计算，还会把a[l]直接传输到l+2层，使得a[l+2]=g(z[l+2]+a[l])，即除了第l+2层的 z，还考虑了第l层的 a。

这种连接方式，称为跳远连接（skip connection），或简称为捷径（short cut）。