OpenMMLab 实战营打卡 - 第 二 课
传统算法与深度学习
`
图像处理好识别算法,传统是通过设计人工算子如canny、sobel、直方图统计等方式提取图像中的特征
然后加上机器学习的方式对提取到的图特征进行学习,学会分类等任务
但传统特征丢失信息过多
神经网络由于可以描述任意函数,所以通过大量数据进行训练,理论可以学会任意东西,将特征的提取过程也使用网络来学习
原来残差模块是这样的:卷积要比不卷好点,通过卷积让浅层网络更好点,防止过深,本身优化器能力不够学不到,反而越学越乱,所以在浅层上更好一点就好。
残差建模:让新增加的层拟合浅层网络与深层网络之间的差异,更容易学习
梯度可以直接回传到浅层网络监督浅层网络的学习
没有引入额外参入,让参数更有效贡献到最终的模型中
真优秀