resnet网络结构_ResNet网络详细解析(超详细哦)

本文详细介绍了ResNet网络结构,包括其提出的残差块设计,如何解决深度网络中的梯度消失问题,以及ResNet50和ResNet101的区别。通过"shortcut connection"实现恒等映射,使网络能够随着深度增加而不退化。
摘要由CSDN通过智能技术生成

1、RestNet网络

1.1、RestNet网络结构

ResNet在2015年被提出,在ImageNet比赛classification任务上获得第一名,因为它“简单与实用”并存,之后很多方法都建立在ResNet50或者ResNet101的基础上完成的,检测,分割,识别等领域里得到广泛的应用。它使用了一种连接方式叫做“shortcut connection”,顾名思义,shortcut就是“抄近道”的意思,下面是这个resnet的网络结构:

0002a4dba990156e992f7ccb5f471f11.png

它对每层的输入做一个reference(X), 学习形成残差函数, 而不是学习一些没有reference(X)的函数。这种残差函数更容易优化,能使网络层数大大加深。在上图的残差块中它有二层,如下表达式,

其中σ代表非线性函数ReLU。

146cde8bfbb42807c71fa9e8fab662ad.png

然后通过一个shortcut,和第2个ReLU,获得输出y。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值