yolov5剪枝实战4: 正常训练和稀疏化训练

已于 2023-04-03 10:27:16 修改
阅读量2.4k 收藏 10
点赞数
分类专栏： 模型轻量化 文章标签： 剪枝 深度学习
于 2022-11-21 21:48:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_38346042/article/details/127950877
版权

文章目录

1. 准备自己的数据集

1.1 下载项目文件

  • 准备好备注的数据集进行训练，我这里给出了标注好的足球的数据集。从百度网盘下载到项目目录下并解压，网盘地址见文末
    • VOCdevkit_ball.zip
    • testfiles.zip
    • prepare_data.py

1.2 解压建立或自行建立数据集

  • 使用PASCAL VOC数据集的目录结构， 建立文件夹层次为 VOCdevkit / VOC2007, VOC2007下面建立两个文件夹：Annotations和JPEGImages。 JPEGImages放所有的训练和测试图片；Annotations放所有的xml标记文件
  • 解压好后可以看到VOCdevkit下的JPEGImages文件夹，保存了1288张训练图片。
    在这里插入图片描述
  • 我们对每张图片都进行了标注，标注好的文件在Annotations文件夹下面。
    在这里插入图片描述
  • 标注的文件样式是以PASAL VOC格式进行标注的，以img00001为例。

                

                
                
        

        

    




        

            

                

                

                了解本专栏
                
                
                  
                订阅专栏 解锁全文
                 
                
                    
                    超级会员免费看
                
            

            
            
            
        

    

      

        

            

              
                
                  @BangBang
                
              
            

            

                关注
              
            

        

        

          
    
            
  • 
              
                
                
                
                
                      0
                
              
              
    点赞
    
            
    • 
            
  • 
              
                
                
                
              
              
    踩
    
            
    • 
            
  • 
              
                
                
                
                
                    10
                
              
              
    
                
    
                  
                    收藏
                  
                
    
              
    
              
    
                
    
                  觉得还不错?
                  
                    一键收藏
                  
                 
                
    
              
    
            
    • 
                
  • 
                  
                    打赏
                    
                  
                  
    打赏
    
                
    • 
          
  • 
            
    
              
              
            
    
              
              
              
                    0
              
            
            
    评论
    
          
    • 
          
  • 
          
    • 
          
  • 
            
              
            
              
    
            
              
                
            
    
          
    • 
        

      

      

            

                专栏目录
          

                

                        订阅专栏
                










                



	

		

			

				
					
yolov5-6.0的稀疏化训练、结构化剪枝、微调

				
			

			

				

					qq_41920323的博客
				

				

					04-22
					
					3276
					
				

			

		

		

			
				
YOLOv5的BN剪枝、微调

			
		

	



                

              
                



	

		

			

				
					
YOLOx的稀疏化训练、剪枝、微调

				
			

			

				

					qq_41920323的博客
				

				

					04-25
					
					680
					
				

			

		

		

			
				
yolox的稀疏化训练、剪枝、微调

			
		

	



                


  
              

                


	

		

			

				
					
yolov5模型压缩之模型剪枝

					
热门推荐

				
			

			

				

					litt1e的博客
				

				

					07-16
					
					1万+
					
				

			

		

		

			
				
稀疏剪枝

			
		

	





	

		

			

				
					
Yolov5 中添加Network Slimming剪枝--稀疏训练部分

				
			

			

				

					m0_46093829的博客
				

				

					12-06
					
					4233
					
				

			

		

		

			
				
Yolov5 中添加Network Slimming剪枝--稀疏训练部分

			
		

	



		

			
		



	

		

			

				
					
基于pytorch的yolo稀疏训练与模型剪枝

				
			

			

				

					03-05
				

			

		

		

			
				
基于pytorch的yolo稀疏训练与模型剪枝

			
		

	





	

		

			

				
					
yolov5 剪枝和量化，代码一键运行

				
			

			

				

					09-16
				

			

		

		

			
				
YOLOv5是一种高效、准确的实时目标检测模型，它在计算机视觉领域有着广泛的应用。...通过提供的代码和压缩包，用户可以轻松地在自己的项目中实施这些技术，从而在保持高精度的同时，实现模型的小型化和加速。

			
		

	





	

		

			

				
					
yolov8s模型进行剪枝源码

				
			

			

				

					05-13
				

			

		

		

			
				
实现步骤: 1. yolov8s模型预训练 2. 模型稀疏化sparsity 3.剪枝 4. finetune  经过键枝后,finetune60个epoch达到原模型迭代52个epoch的mAP值0.78，模型的大小减少了2/5。

			
		

	





	

		

			

				
					
yolov8 剪枝源码（集成多种剪枝策略）

					
最新发布

				
			

			

				

					03-20
				

			

		

		

			
				
支持以下的剪枝方法，代码一键运行，并配有md文档说明: (1) lamp 剪枝 (2) slimming 剪枝 (3) group slimming 剪枝 (4) group hessian 剪枝 (5) Taylor 剪枝 (6）Regularization 剪枝 等等

			
		

	





	

		

			

				
					
基于yolov5的模型剪枝项目实战源码

				
			

			

				

					10-13
				

			

		

		

			
				
本项目以Yolov5s模型为例，展示了如何通过稀疏化训练和剪枝技术，大幅度减小模型参数量，同时保持几乎不变的mAP（平均精度）指标，以实现模型的轻量化。  **1. Yolov5s模型简介** Yolov5是一个快速且准确的目标检测...

			
		

	





	

		

			

				
					
mobile-yolov5-pruning-distillation:mobilev2-yolov5s剪枝，蒸馏，支持ncnn，tensorRT部署。超轻但性能更好！

				
			

			

				

					03-19
				

			

		

		

			
				
移动式yolov5修剪蒸馏
mobilev2-yolov5s的通道修剪和蒸馏。超轻但性能更好！ TensorRT版本===>  Android版本===> 
背景
yolov5s在640x640分辨率下的计算量和参数量分别为8.39G和7.07M。在速度上仍然有提升空间，通过替换backbone（mobilenetv2），通道剪枝对模型进行压缩。 。本项目以工程化为基础，主要是模型端的优化。实现了常用的剪枝和蒸馏算法，并完成了一个简单的介绍和评估。将工程可用模型转换成对应的部署版本。
基准线
数据集采用Pascal VOC，训练集= train2007 + train2012 + val2007 + val2012，测试集= test2007，基线采用mobile-yolo（imagenet预训练），如果没有特别说明，第一个模块采用重点如果特定特殊说明则可以使用替换参数，batchsize

			
		

	





	

		

			

				
					
Pruned-YOLO:使用模型修剪方法获得基于YOLOv5的紧凑模型Pruned-YOLOv5

				
			

			

				

					03-25
				

			

		

		

			
				
修剪YOLO
 使用模型修剪方法获得紧凑模型，即基于YOLOv5的Pruned-YOLOv5。
注意：
 1.该项目基于 。 首先将其安装。 然后，使用此处提供的模型配置文件（ coco_yolov5l.yaml ）和网络模块定义文件（ common.py ）替换原始的对应文件。
 2.参考 ，我们还使用次梯度方法进行稀疏度训练（ sparsity.py ）。 此外，稀疏训练和微调相结合以简化修剪流程。 在训练过程中，我们介绍了软掩膜策略和稀疏因子余弦衰变。
 3.使用train_sr.py进行稀疏火车，可以直接进行修剪，而无需进行微调。
 4.请把prune_channel_v5_weightingByKernel.py和prune_layer_v5_weightingByKernel.py放在主目录（ / yolov5 / ）中。 前者用于通道修剪，后者用于层修剪。 模型修剪可以由他们

			
		

	





	

		

			

				
					
模型轻量化-YOLOv5无损剪枝

				
			

			

				

					10-28
				

			

		

		

			
				
运行顺序：
1. 原始训练，得到一个最优mAP等评价指标
2.通过调整BN稀疏值sr，运行train_sparity.py稀疏训练得到一个稍微小的模型
3. 将训练好的last.pt 放到prune.py 中进行剪枝，控制剪枝率；
4. Finetune得到最优模型

			
		

	





	

		

			

				
					
YOLO3模型剪枝系列（二）稀疏训练

				
			

			

				

					ltshan139的专栏
				

				

					12-07
					
					9281
					
				

			

		

		

			
				
前言

平台环境搭建（主要是torch的安装）好后，就可以对已经训练出来的yolov3模型进行稀疏训练。但是这里面会遇到一些代码问题，特记录如下。

稀疏训练脚本运行

对以后的模型进行稀疏训练的命令如下：


 python3 train.py --cfg /xxx/xxx.cfg --data /xxx/xxx.data --weights /xxx/yolov3_xxx_2019_11_fi...

			
		

	





	

		

			

				
					
剪枝基础与实战(4):稀疏训练及剪枝效果展示

				
			

			

				

					@bangbang的博客
				

				

					08-21
					
					886
					
				

			

		

		

			
				
稀疏训练是通过在损失loss中增加BN的γ参数的L1正则，从而让绝大多数通道对应的γ值趋近与0LL1​γLwλ∣γ∣。

			
		

	





	

		

			

				
					
模型优化论文笔记3----应用稀疏正则化训练和结构化剪枝进行模型压缩

				
			

			

				

					qq_40616042的博客
				

				

					01-10
					
					2122
					
				

			

		

		

			
				
1 参考文献：
[1]韦越,陈世超,朱凤华,熊刚.基于稀疏卷积神经网络的模型剪枝方法[J/OL].计算机工程:1-8[2021-01-10].https://doi.org/10.19678/j.issn.1000-3428.0059375.
2 主要思想：
通过对模型进行稀疏正则化训练，得到参数较为稀疏的深度神经网络模型，并结合卷积层和 BN层的稀疏性进行结构化剪枝，去除冗余的滤波器。
3 背景：
神经网络的过度参数化（一文献表明模型中仅5%的网络参数可预测剩余参数）
模型剪枝：剪除不重要参数，压缩模型体

			
		

	





	

		

			

				
					
剪枝与重参第二课：修剪方法和稀疏训练

				
			

			

				

					周同学的博客
				

				

					04-07
					
					3831
					
				

			

		

		

			
				
剪枝与重参第二课笔记

			
		

	





	

		

			

				
					
yolov8模型稀疏化剪枝

				
			

			

				

					weixin_51988935的博客
				

				

					12-07
					
					1196
					
				

			

		

		

			
				
注意：第一次剪枝训练的时候是没有这个一步修改的，但是第二次在增加剪枝代码也就是在做第一步操作的时候，需要将这一步的修改代码方向操作。# 剪枝后再训练时把下面两行注释掉，增加：self.trainer.model = self.model.train()# # 新增==============================# # 新增==============================# ========== 新增 ==========# ========== 新增 ==========

			
		

	





	

		

			

				
					
Yolov5训练过程

				
			

			

				

					carrymingteng的博客
				

				

					04-08
					
					2835
					
				

			

		

		

			
				
Yolov5-v3.0训练过程

文章目录***Yolov5-v3.0训练过程***一、资源下载二、环境配置三、准备自己的数据集（VOC格式）1.利用train_val.py文件生成test.txt train.txt trainval.txt val.txt2.利用voc_label.py文件将xml文件转换为txt文件3.配置文件（1）创建ab.yaml文件（2）修改yolov5s.yaml文件四、训练模型1.修改train.py2.模型训练（1）先激活自己的环境（2）开始训练（3）过程可视化
一、资源

			
		

	





	

		

			

				
					
yolov8pyqt5可视化界面

				
			

			

				

					11-26
				

			

		

		

			
				
yolov8pyqt5是一种基于YOLOv4算法的目标检测模型，而pyqt5是一种Python编程语言下的图形用户界面工具包。将它们结合在一起，就可以实现yolov8pyqt5可视化界面。

这个可视化界面可以通过pyqt5提供的工具和组件来展示yolov8pyqt5模型的检测结果，比如在界面上显示检测到的目标框和类别标签，并且可以通过界面上的按钮和菜单来控制模型的输入、参数设置和输出显示。

通过yolov8pyqt5可视化界面，用户可以方便地熟悉和操作yolov8pyqt5模型，进行目标检测任务的实时展示和调试。同时，也可以加入一些图形化的功能，比如绘制检测结果的统计图表或者实时视频流的处理，让用户有更加直观和友好的体验。

这种可视化界面的设计可以让用户更直观、更方便地使用yolov8pyqt5模型，提高了用户的操作体验，也对模型的调试和优化提供了更多的可能性。因此，yolov8pyqt5可视化界面在目标检测领域具有很高的实用价值。

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		评论	
	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  





	
打赏作者

	

		

		
			
		
		

		

			
@BangBang

			
你的鼓励将是我创作的最大动力

		

	

	

			

	

	

    ¥1
    ¥2
    ¥4
    ¥6
    ¥10
    ¥20
	

	

		

			

				

					扫码支付：¥1
				

				

					

					
					获取中
					

				

				

					
					
					扫码支付
				

			

		

		

			
您的余额不足，请更换扫码支付或充值

			
打赏作者

		

	



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值