ResNet引用量破20万！新记录！

最新推荐文章于 2025-03-26 10:48:13 发布
最新推荐文章于 2025-03-26 10:48:13 发布
阅读量361 收藏
点赞数
原文链接：https://mp.weixin.qq.com/s?__biz=MzUxNjcxMjQxNg==&mid=2247592583&idx=2&sn=f8a5dff5e2bad45686f456dae0b7e570&chksm=f8f8883328667d85c5b3dc558a3b407f321b88fafa6d0ba176154dde8f83ed9b4399982d299f&scene=126&sessionid=0
版权

点击下方卡片，关注“CVer”公众号

AI/CV重磅干货，第一时间送达

点击进入—>【CV技术/投稿/求职】交流群

扫描下方二维码，加入CVer学术星球，可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料，及最前沿应用！发论文搞科研，强烈推荐！

e79dd58c638979ef17fe35d22c79038d.jpeg

ResNet是一篇计算机视觉（深度学习时代）领域的经典论文。李沐曾经说过，假设你在使用卷积神经网络，有一半的可能性就是在使用 ResNet 或它的变种。

Amusi 刚刚发现 ResNet 论文被引用数量突破了 20 万+！这是首个突破20万引用量的AI论文！

43b6cd7cbb024398236c27c953ca87f2.png

2016年，何恺明、张祥雨、任少卿、孙剑在微软期间发表了开创工作「深度残差网络」，让训练数千层神经网络成为可能。

《Deep Residual Learning for Image Recognition》拿下 CVPR 2016最佳论文奖，而且在去年2023未来科学大奖的「数学与计算机科学奖」也颁给了ResNet团队，以表彰他们为人工智能做出了基础性贡献。

e60c57feccb0fe5614af7f55827dd350.jpeg

深度神经网络推动了人工智能的革命和发展。其中，增加神经网络的深度是在许多人工智能应用中带来突破性进展的关键。获奖团队提出了深度残差学习，使神经网络能够达到前所未有的深度，获得以前难以实现的能力，促成了多个突破性的成果——包括AlphaGo，AlphaFold和ChatGPT。

773fcb6cf491e56bcaa1afb588bd7cc9.jpeg

论文链接：https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/He_Deep_Residual_Learning_CVPR_2016_paper.pdf

残差网络是为了解决深度神经网络（DNN）隐藏层过多时的网络退化问题而提出，下面两张图是ResNet的核心，大家应该也非常熟悉！

07ef3055ffc892ceab7bb061114218be.jpeg

09293fc1604cc9ec5f6e05ec0d741741.jpeg

而比ResNet更早期一点的 AlexNet 快15万引用量，同期的 VGG 快12万引用量！另外大家可以点击了解—>：何恺明在招实习生和博士后！

快点击进入—>【CV技术/投稿/求职】交流群

计算机视觉技术交流群成立

 
 
扫描下方二维码，或者添加微信：CVer444，即可添加CVer小助手微信，便可申请加入CVer-计算机视觉微信交流群。另外其他垂直方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF等。
一定要备注：研究方向+地点+学校/公司+昵称（如目标检测+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群
 
 
 
 
 
 
▲扫码或加微信号: CVer444，进交流群
CVer计算机视觉（知识星球）来了！想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料，欢迎扫描下方二维码，加入CVer计算机视觉（知识星球），已汇集近万人！

▲扫码加入星球学习
 
 
 
 
▲点击上方卡片，关注CVer公众号
整理不易，请点赞和在看
 


                

        

    

  



    


                



	

		

			

				
					
TF2.0深度学习实战（七）：手撕深度残差网络ResNet

				
			

			

				

					不积跬步，无以至千里！
				

				

					04-19
					
					1万+
					
				

			

		

		

			
				
手把手带你搭建网络模型，实现图像分类与目标检测。大神勿扰~

			
		

	



                

            
              



	

		

			

				
					
卷积神经网络——ResNet论文翻译

				
			

			

				

					itlilyer的博客
				

				

					03-18
					
					4341
					
				

			

		

		

			
				
ResNet论文翻译

			
		

	



              


  
              

                


	

		

			

				
					
LeNet+AlexNet+ResNet论文

				
			

			

				

					09-25
				

			

		

		

			
				
本资源包含LeNet，AlexNet和ResNet三大人工神经网络的论文，研究他们有助于进一步了解人工智能。

			
		

	





	

		

			

				
					
何恺明的ResNet论文，被引量刚刚突破10万大关

				
			

			

				

					机器学习社区
				

				

					12-18
					
					2294
					
				

			

		

		

			
				
深度神经网络非常难以训练，我们提出的残差网络框架使得神经网络的训练变得容易很多。文章摘要的开头如今已被无数研究者们细细读过。这是一篇计算机视觉领域的经典论文。李沐曾经说过，假设你在使用卷积神经网络，有一半的可能性就是在使用 ResNet 或它的变种。前几天，人们发现 ResNet 论文被引用数量悄然突破了 10 万加，距离论文的提交刚过去六年。《Deep Residual Learning for Image Recognition》在 2016 年拿下了计算机视觉顶级会议 

			
		

	



		

			
		



	

		

			

				
					
经典神经网络论文解读（五）—— ResNet（残差网络）

					
最新发布

				
			

			

				

					weixin_40375105的博客
				

				

					03-26
					
					1247
					
				

			

		

		

			
				
ResNet在《》论文中提出，是在CVPR 2016发表的一种影响深远的网络模型，何凯明团队提出来，在ImageNet的分类比赛上将网络深度直接提高到了152层，前一年夺冠的VGG只有19层。ImageNet的目标检测以碾压的优势成功夺得了当年识别和目标检测的冠军，COCO数据集的目标检测和图像分割比赛上同样碾压夺冠，可以说ResNet的出现对深度神经网络来说具有重大的历史意义。随着卷积神经网络的发展和普及，我们了解到增加神经网络的层数可以提高模型的训练精度和泛化能力。

			
		

	





	

		

			

				
					
何恺明 ResNet 引用量正式破20万!!!

				
			

			

				

					码农渣渣的博客
				

				

					01-26
					
					1090
					
				

			

		

		

			
				
总而言之, ResNet诞生并发展于计算机视觉领域, 同时与自然语言处理领域也有巨大的影响, 可以说, ResNet是现代人工智能的基石. 相信ResNet及其思想能够在接下来给人工智能领域带来更多有价值的影响, 期待ResNet一文引用量再创佳绩!ResNet一惊问世, 立即在计算机视觉的各个领域(如分类, 检测, 分割, 深度估计等)被广泛使用, 使得人工神经网络在计算机视觉领域取得了飞速发展.‍‍‍‍‍‍‍‍‍‍。

			
		

	





	

		

			

				
					
论文精读【ResNet】

				
			

			

				

					Fu_shengyaya的博客
				

				

					05-03
					
					218
					
				

			

		

		

			
				
2 假设浅层的输出为H（x）, 然后残差模块学习Y-H（x），即残差模块F 为F（H（x））的收敛目标为Y-H（x）, 以Y为训练样本的话，残差模块输出为F（H（x）） + H(x)3 "bottlenect"设计是在深层结构通道数增加的时候，做残差模块资源消耗比较大，可以通过1维卷积将特征通道降维，再做空间卷积，再在残差模块输出的时候将特征通道投影回去。理论上更加深度的网络是不应该训练比浅层的网络效果差的，因为多的层理论上可以输出和浅层一项的特征输出（identity mapping）

			
		

	





	

		

			

				
					
经典论文-ResNet

				
			

			

				

					weixin_42382758的博客
				

				

					08-02
					
					2417
					
				

			

		

		

			
				
ResNet论文及代码

			
		

	





	

		

			

				
					
长文解析Resnet50的算法原理

				
			

			

				

					AI与算法都要通俗易懂
				

				

					08-19
					
					1万+
					
				

			

		

		

			
				
长文通俗的解析resnet50的全部算法。

			
		

	





	

		

			

				
					
ResNet网络详解与keras实现

					
热门推荐

				
			

			

				

					海贼王
				

				

					11-15
					
					3万+
					
				

			

		

		

			
				
ResNet网络详解与keras实现



ResNet网络详解与keras实现

Resnet网络的概览
Pascal_VOC数据集
第一层目录
第二层目录
第三层目录


梯度退化
Residual Learning
Identity vs Projection Shortcuts
Bottleneck architecture
Resnet网络构建表
ResNet论文结果
为了搭建Resne

			
		

	





	

		

			

				
					
ResNet作者张祥雨，投身AI大模型

				
			

			

				

					量子位
				

				

					08-05
					
					880
					
				

			

		

		

			
				
衡宇 西风 发自 凹非寺量子位 | 公众号 QbitAI大模型的人才黑洞效应，还在持续。量子位获悉，最新出现在大模型大牛转会名单上的重磅大牛，是90后AI大牛张祥雨，ResNet四位作者之一，孙剑首位深度学习博士生，未来科学大奖得主。现在，他出现在了国产大模型独角兽阶跃星辰的引援传闻中。而且六小强之一的阶跃星辰，据说最近还不止这一位AI大牛。不过截至发稿，阶跃星辰暂未作出明确回应。张祥雨，ResN...

			
		

	





	

		

			

				
					
论文笔记12 -- （ResNet）Deep Residual Learning for Image Recognition

				
			

			

				

					对角巷
				

				

					01-24
					
					888
					
				

			

		

		

			
				
论文：《Deep Residual Learning for Image Recognition》
https://arxiv.org/abs/1512.03385
https://github.com/KaimingHe/deep-residual-networks

Abstract
更深的神经网络往往更难以训练，我们在此提出一个残差学习的框架，以减轻网络的训练负担，这是个比以往的网络要深的多...

			
		

	





	

		

			

				
					
ResNet论文笔记

				
			

			

				

					VinciB的博客
				

				

					07-28
					
					597
					
				

			

		

		

			
				
更深的神经网络难以训练，层数越多反而效果不好。提出了一个剩余学习框架，以减轻训练的难度，即残差网络。

			
		

	





	

		

			

				
					
resNet论文笔记

				
			

			

				

					yuanyong的博客
				

				

					08-11
					
					5953
					
				

			

		

		

			
				
《Deep Residual Learning for Image Recognition》是2016年CVPR的最佳论文，也是我Kaiming男神第二次获得CVPR的最佳论文，简直强的一批啊！摘要resNet主要解决一个问题，就是更深的神经网络如何收敛的问题，为了解决这个问题，论文提出了一个残差学习的框架。然后简单跟VGG比较了一下，152层的残差网络，比VGG深了8倍，但是比VGG复杂度更低，当

			
		

	





	

		

			

				
					
ResNet论文（深度残差网络)

				
			

			

				

					糖糖糖豆的博客
				

				

					05-19
					
					7249
					
				

			

		

		

			
				
ResNet——MSRA何凯明团队的Residual Networks，2015年，在ImageNet的classification、detection、localization以及COCO的detection和segmentation上均斩获了第一名的成绩，而且Deep Residual Learning for Image Recognition也获得了CVPR2016的best paper。...

			
		

	





	

		

			

				
					
【论文精读】2-ResNet论文逐段精读

				
			

			

				

					weixin_37410657的博客
				

				

					06-26
					
					561
					
				

			

		

		

			
				
本文提出了一种新的深度学习框架——残差网络（ResNet），有效地解决了深度神经网络中的退化问题。作者通过引入“短路连接”来构建深度残差网络，使得网络可以直接将输入特征传递到后面的层。

			
		

	





	

		

			

				
					
ResNet论文理解

				
			

			

				

					jieshaoxiansen的博客
				

				

					09-12
					
					981
					
				

			

		

		

			
				
本文主要参考：

https://www.cnblogs.com/alanma/p/6877166.html

https://blog.csdn.net/Quincuntial/article/details/77263562?locationNum=6

相关问题：

（1）网络的深度为什么重要？

因为CNN能够提取低维中维高维（low/mid/high-level）的特征，网络的层数越多，...

			
		

	





	

		

			

				
					
ResNet论文阅读和简单实现

				
			

			

				

					Karen_Yu_的博客
				

				

					01-03
					
					1275
					
				

			

		

		

			
				
让我们先把H(x)看做是由几个堆叠的层拟合的潜在映射（这里的几个不一定指的是整个网络），那么此时x表示的就是这些层中第一层的输入。F(x, {W_i})：学到的residual mapping（我们最后想得到的是H(x)，但是这里学到的是F(x, {W_i})，也就是H(x) - x，但是没有关系，我们最后输出的是F(x, {W_i}) + x，也就是H(x) - x + x，这种思路很像小时候做那种数列找规律求和，虽然直接算很难算，但是可以加上一项之后先算出来结果，最后再把加上来的项去掉）

			
		

	





	

		

			

				
					
resnet引用

				
			

			

				

					03-09
				

			

		

		

			
				
### 关于 ResNet 的引用文献资料

#### ResNet 论文及其被引情况
ResNet 是一种具有里程碑意义的深度学习架构，在计算机视觉领域产生了深远影响。当 ResNet 的引用次数超过十万次时，同样来自该领域的 AlexNet 在 2012 年发表后的引用量也达到了这一水平[^1]。

#### ResNet 架构详解
深入探讨 ResNet 的具体实现细节对于理解其工作原理至关重要。ResNet 引入了残差块的概念来解决深层神经网络训练中的退化问题。通过构建跳跃连接（skip connections），使得每一层可以直接访问前几层的信息，从而有效地缓解了梯度消失现象并促进了更深网络的有效训练[^2]。

#### 残差学习机制解析
为了更好地解释为何 ResNet 可以显著提升性能，研究者们提出了残差学习的思想。传统方法试图让每层直接拟合所需底层映射；而残差学习则假设这些变换相对简单，并尝试使各层去适应一个“残差函数”，即目标映射减去输入特征向量的结果。这种方法不仅简化了优化过程，还提高了模型泛化能力[^3]。

#### 结构对比分析
通过对 VGG-19 和其他标准 CNNs 进行比较可以看出，ResNet 特有的分支设计使其能够保持更多的前馈信息流。特别是那些未经过任何权重矩阵转换就被传递下去的数据路径，有助于维持信号强度而不至于因层数增加而导致衰减过多。因此，即使在网络非常深的情况下，ResNet 依然能表现出良好的收敛性和准确性[^4]。

```python
import torch.nn as nn

class BasicBlock(nn.Module):
    expansion = 1
    
    def __init__(self, inplanes, planes, stride=1, downsample=None):
        super(BasicBlock, self).__init__()
        self.conv1 = conv3x3(inplanes, planes, stride)
        self.bn1 = nn.BatchNorm2d(planes)
        self.relu = nn.ReLU(inplace=True)
        self.conv2 = conv3x3(planes, planes)
        self.bn2 = nn.BatchNorm2d(planes)
        self.downsample = downsample
        self.stride = stride
        
    def forward(self, x):
        identity = x 

        out = self.conv1(x)
        out = self.bn1(out)
        out = self.relu(out)

        out = self.conv2(out)
        out = self.bn2(out)

        if self.downsample is not None:
            identity = self.downsample(x)

        out += identity
        out = self.relu(out)

        return out
```

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		评论	
	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值