SqueezeNet网络的OHEM

最新推荐文章于 2020-09-20 10:03:14 发布
最新推荐文章于 2020-09-20 10:03:14 发布
阅读量907 收藏 3
点赞数
分类专栏： 人脸检测 深度学习通用策略 目标检测算法安装 文章标签： SqueezeNet网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wfei101/article/details/77144995
版权

github: https://github.com/DeepScale/SqueezeNet 

遇到问题了多参考github

一、SqueezeNet与Faster RCNN结合

遇到这个问题，把学习率改为以前的1/10，解决。 
直接上prototxt文件，前面都是一样的，只需要改动zfnet中的conv1-con5部分，外加把fc6-fc7改成squeeze中的卷积链接。 
prototxt太长，给出每个部分的前面和后面部分： 

name: "Alex_Squeeze_v1.1"
layer {
  name: 'input-data'
  type: 'Python'
  top: 'data'
  top: 'im_info'
  top: 'gt_boxes'
  python_param {
    module: 'roi_data_layer.layer'
    layer: 'RoIDataLayer'
    param_str: "'num_classes': 2"
  }
}
layer {
  name: "conv1"
  type: "Convolution"
  bottom: "data"
  top: "conv1"
  convolution_param {
    num_output: 64
    kernel_size: 3
    stride: 2
  }
}
.
.
.
layer {
  name: "drop9"
  type: "Dropout"
  bottom: "fire9/concat"
  top: "fire9/concat"
  dropout_param {
    dropout_ratio: 0.5
  }
}

#========= RPN ============

layer {
  name: "rpn_conv/3x3"
  type: "Convolution"
  bottom: "fire9/concat"
  top: "rpn/output"
  param { lr_mult: 1.0 }
  param { lr_mult: 2.0 }
  convolution_param {
    num_output: 256
    kernel_size: 3 pad: 1 stride: 1
    weight_filler { type: "gaussian" std: 0.01 }
    bias_filler { type: "constant" value: 0 }
  }
}
.
.
.
layer {
  name: "drop9"
  type: "Dropout"
  bottom: "fire9/concat"
  top: "fire9/concat"
  dropout_param {
    dropout_ratio: 0.5
  }
}

#========= RPN ============

layer {
  name: "rpn_conv/3x3"
  type: "Convolution"
  bottom: "fire9/concat"
  top: "rpn/output"
  param { lr_mult: 1.0 }
  param { lr_mult: 2.0 }
  convolution_param {
    num_output: 256
    kernel_size: 3 pad: 1 stride: 1
    weight_filler { type: "gaussian" std: 0.01 }
    bias_filler { type: "constant" value: 0 }
  }
}
.
.
.
layer {
  name: 'roi-data'
  type: 'Python'
  bottom: 'rpn_rois'
  bottom: 'gt_boxes'
  top: 'rois'
  top: 'labels'
  top: 'bbox_targets'
  top: 'bbox_inside_weights'
  top: 'bbox_outside_weights'
  python_param {
    module: 'rpn.proposal_target_layer'
    layer: 'ProposalTargetLayer'
    param_str: "'num_classes': 4"
  }
}

#===================== RCNN =============

layer {
  name: "roi_pool5"
  type: "ROIPooling"
  bottom: "fire9/concat"
  bottom: "rois"
  top: "roi_pool5"
  roi_pooling_param {
    pooled_w: 7
    pooled_h: 7
    spatial_scale: 0.0625 # 1/16
  }
}
layer {
  name: "conv1_last"
  type: "Convolution"
  bottom: "roi_pool5"
  top: "conv1_last"
  param { lr_mult: 1.0 }
  param { lr_mult: 1.0 }
  convolution_param {
    num_output: 1000
    kernel_size: 1
    weight_filler {
      type: "gaussian"
      mean: 0.0
      std: 0.01
    }
  }
}
layer {
  name: "relu/conv1_last"
  type: "ReLU"
  bottom: "conv1_last"
  top: "relu/conv1_last"
}
layer {
  name: "cls_score"
  type: "InnerProduct"
  bottom: "relu/conv1_last"
  top: "cls_score"
  param {
    lr_mult: 1
  }
  param {
    lr_mult: 2
  }
  inner_product_param {
    num_output: 2
    weight_filler {
      type: "gaussian"
      std: 0.01
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "bbox_pred"
  type: "InnerProduct"
  bottom: "relu/conv1_last"
  top: "bbox_pred"
  param {
    lr_mult: 1
  }
  param {
    lr_mult: 2
  }
  inner_product_param {
    num_output: 20
    weight_filler {
      type: "gaussian"
      std: 0.001
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "loss_cls"
  type: "SoftmaxWithLoss"
  bottom: "cls_score"
  bottom: "labels"
  propagate_down: 1
  propagate_down: 0
  top: "loss_cls"
  loss_weight: 1
}
layer {
  name: "loss_bbox"
  type: "SmoothL1Loss"
  bottom: "bbox_pred"
  bottom: "bbox_targets"
  bottom: "bbox_inside_weights"
  bottom: "bbox_outside_weights"
  top: "loss_bbox"
  loss_weight: 1
}
注意红圈部分，以前的fc换成了squ中的卷积层，这样网络参数大大减少，因为我改动了rpn部分选proposal的比例和数量，共采用改了70种选择，所以最后训练出来的模型为17M，比初始化4.8M大很多，不过也已经很小了。

二、SqueezeNet+Faster RCNN+OHEM

OHEM无非就是多了一个readonly部分，不过加上之后效果会好很多，和上面的方式一致，放出一部分prototxt，其他的课自行补上。从rpn那里开始，前面部分和上面给出的完全一样 

#====== RoI Proposal ====================
layer {
  name: "rpn_cls_prob"
  type: "Softmax"
  bottom: "rpn_cls_score_reshape"
  top: "rpn_cls_prob"
}
layer {
  name: 'rpn_cls_prob_reshape'
  type: 'Reshape'
  bottom: 'rpn_cls_prob'
  top: 'rpn_cls_prob_reshape'
  reshape_param { shape { dim: 0 dim: 140 dim: -1 dim: 0 } }
}
layer {
  name: 'proposal'
  type: 'Python'
  bottom: 'rpn_cls_prob_reshape'
  bottom: 'rpn_bbox_pred'
  bottom: 'im_info'
  top: 'rpn_rois'
  python_param {
    module: 'rpn.proposal_layer'
    layer: 'ProposalLayer'
    param_str: "'feat_stride': 16"
  }
}
layer {
  name: 'roi-data'
  type: 'Python'
  bottom: 'rpn_rois'
  bottom: 'gt_boxes'
  top: 'rois'
  top: 'labels'
  top: 'bbox_targets'
  top: 'bbox_inside_weights'
  top: 'bbox_outside_weights'
  python_param {
    module: 'rpn.proposal_target_layer'
    layer: 'ProposalTargetLayer'
    param_str: "'num_classes': 4"
  }
}
##########################
## Readonly RoI Network ##
######### Start ##########
layer {
  name: "roi_pool5_readonly"
  type: "ROIPooling"
  bottom: "fire9/concat"
  bottom: "rois"
  top: "pool5_readonly"
  propagate_down: false
  propagate_down: false
  roi_pooling_param {
    pooled_w: 6
    pooled_h: 6
    spatial_scale: 0.0625 # 1/16
  }
}
layer {
  name: "conv1_last_readonly"
  type: "Convolution"
  bottom: "pool5_readonly"
  top: "conv1_last_readonly"
  propagate_down: false  
  param {
    name: "conv1_last_w"
  }
  param {
    name: "conv1_last_b"
  }
  convolution_param {
    num_output: 1000
    kernel_size: 1
    weight_filler {
      type: "gaussian"
      mean: 0.0
      std: 0.01
    }
  }
}
layer {
  name: "relu/conv1_last_readonly"
  type: "ReLU"
  bottom: "conv1_last_readonly"
  top: "relu/conv1_last_readonly"
  propagate_down: false
}
layer {
  name: "cls_score_readonly"
  type: "InnerProduct"
  bottom: "relu/conv1_last_readonly"
  top: "cls_score_readonly"
  propagate_down: false
  param {
    name: "cls_score_w"
  }
  param {
    name: "cls_score_b"
  }
  inner_product_param {
    num_output: 4
    weight_filler {
      type: "gaussian"
      std: 0.01
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "bbox_pred_readonly"
  type: "InnerProduct"
  bottom: "relu/conv1_last_readonly"
  top: "bbox_pred_readonly"
  propagate_down: false
  param {
    name: "bbox_pred_w"
  }
  param {
    name: "bbox_pred_b"
  }
  inner_product_param {
    num_output: 16
    weight_filler {
      type: "gaussian"
      std: 0.001
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "cls_prob_readonly"
  type: "Softmax"
  bottom: "cls_score_readonly"
  top: "cls_prob_readonly"
  propagate_down: false
}
layer {
  name: "hard_roi_mining"
  type: "Python"
  bottom: "cls_prob_readonly"
  bottom: "bbox_pred_readonly"
  bottom: "rois"
  bottom: "labels"
  bottom: "bbox_targets"
  bottom: "bbox_inside_weights"
  bottom: "bbox_outside_weights"
  top: "rois_hard"
  top: "labels_hard"
  top: "bbox_targets_hard"
  top: "bbox_inside_weights_hard"
  top: "bbox_outside_weights_hard"
  propagate_down: false
  propagate_down: false
  propagate_down: false
  propagate_down: false
  propagate_down: false
  propagate_down: false
  propagate_down: false
  python_param {
    module: "roi_data_layer.layer"
    layer: "OHEMDataLayer"
    param_str: "'num_classes': 4"
  }
}
########## End ###########
## Readonly RoI Network ##
##########################
#===================== RCNN =============
layer {
  name: "roi_pool5"
  type: "ROIPooling"
  bottom: "fire9/concat"
  bottom: "rois_hard"
  top: "roi_pool5"
  propagate_down: true
  propagate_down: false
  roi_pooling_param {
    pooled_w: 7
    pooled_h: 7
    spatial_scale: 0.0625 # 1/16
  }
}
layer {
  name: "conv1_last"
  type: "Convolution"
  bottom: "roi_pool5"
  top: "conv1_last"
  param { 
      lr_mult: 1.0 
      name: "conv1_last_w"
      }
  param { 
      lr_mult: 1.0 
      name: "conv1_last_b"
      }
  convolution_param {
    num_output: 1000
    kernel_size: 1
    weight_filler {
      type: "gaussian"
      mean: 0.0
      std: 0.01
    }
  }
}
layer {
  name: "relu/conv1_last"
  type: "ReLU"
  bottom: "conv1_last"
  top: "relu/conv1_last"
}
layer {
  name: "cls_score"
  type: "InnerProduct"
  bottom: "relu/conv1_last"
  top: "cls_score"
  param {
    lr_mult: 1
    name: "cls_score_w"
  }
  param {
    lr_mult: 2
    name: "cls_score_b"
  }
  inner_product_param {
    num_output: 4
    weight_filler {
      type: "gaussian"
      std: 0.01
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "bbox_pred"
  type: "InnerProduct"
  bottom: "relu/conv1_last"
  top: "bbox_pred"
  param {
    lr_mult: 1
    name: "bbox_pred_w"
  }
  param {
    lr_mult: 2
    name: "bbox_pred_b"
  }
  inner_product_param {
    num_output: 16
    weight_filler {
      type: "gaussian"
      std: 0.001
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "loss_cls"
  type: "SoftmaxWithLoss"
  bottom: "cls_score"
  bottom: "labels_hard"
  propagate_down: true
  propagate_down: false
  top: "loss_cls"
  loss_weight: 1
}
layer {
  name: "loss_bbox"
  type: "SmoothL1Loss"
  bottom: "bbox_pred"
  bottom: "bbox_targets_hard"
  bottom: "bbox_inside_weights_hard"
  bottom: "bbox_outside_weights_hard"
  top: "loss_bbox"
  loss_weight: 1
  propagate_down: false
  propagate_down: false
  propagate_down: false
  propagate_down: false
}
未经证实：
SqueezeNet+Faster RCNN 框架便介绍完了，运行速度在GPU下大概是ZF的5倍，CPU下大概为2.5倍

测试的test.prototxt需要把OHEM层和loss层，dropout层统统的去掉，基本上不影响精度，如果不收敛的时候，需要把学习率调小；只是模型变小，速度并不是太快！

BigCowPeking
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
论文阅读：OHEM:Training Region-based Object Detectors with Online Hard Example Mining
j879159541的博客
09-12 395
1、OHEM算法总述 这篇论文针对基于region的目标检测网络中容易出现的正负样本不均衡问题，提出了一个在线困难样本挖掘的算法，这个算法比RCNN和Fast RCNN中的hard negative mining方法效果要好，论文中有数据对比， 算法具体流程如下：先计算出feature map，然后上面的那个readonly ROI网络对选中的B个roi进行前向计算并且计算出每个Roi的损失...
论文笔记 OHEM: Training Region-based Object Detectors with Online Hard Example Mining
热门推荐
xiaoxiang_AQ 的博客
10-08 2万+
CVPR2016的文章，CMU与rbg大神的合作。原谅我一直没有对这篇文章做一个笔记~~ 文章提出了一种通过online hard example mining（OHEM）算法训练基于区域的卷积检测算子的高效目标检测算法，能够对简单样本和一些小数量样本进行抑制，使得训练过程更加高效。该方法利用显著的bootstrapping技术（SVM中被普遍利用），对SGD算法进行一定的修改，使得原有的reg
SqueezeNet运用到Faster RCNN进行目标检测+OHEM
FelixFuu的博客
12-17 7914
目录 目录 一SqueezeNet介绍 MOTIVATION FIRE MODULE ARCHITECTURE EVALUATION 二SqueezeNet与Faster RCNN结合 三SqueezeNetFaster RCNNOHEM 原文链接 一、SqueezeNet介绍论文地址：https://arxiv.org/abs/1602.07360 代码地址：https://github.com
OHEM算法及Caffe代码详解
AI之路
06-12 1万+
这是CVPR2016的一篇论文，用于目标检测，本篇博文先介绍这个算法，然后介绍其Caffe代码。论文：Training Region-based Object Detectors with Online Hard Example Mining 论文链接：https://arxiv.org/abs/1604.03540算法概述：OHEM（online hard example miniing）算法的
OHEM 代码详解
leo_fighting
08-18 1250
目录 1.网络结构 2.OHEM 前向传播 3 .reference 1.网络结构 ########################## ## Readonly RoI Network ## ######### Start ########## layer { name: "roi_pool5_readonly" type: "ROIPooling" bottom: "co...
tensorflow-基于Tensorflow实现的SqueezeNet算法.zip
最新发布
03-09
SqueezeNet是一种高效的深度卷积神经网络（CNN）架构，设计之初是为了在资源有限的设备上实现高性能图像识别。SqueezeNet的核心在于其创新的架构设计，通过减少网络中的参数数量，实现了与AlexNet相似的准确率，但...
SqueezeNet模型文件及使用
03-15
4. **模型优化**：通过精细的网络设计和训练策略，SqueezeNet能够在不牺牲准确性的前提下，实现模型的小型化。 在实际应用中，使用SqueezeNet模型通常包括以下步骤： 1. **预处理**：对输入图像进行预处理，比如...
轻量化神经网络之SqueezeNet ONNX 文件
04-29
**轻量化神经网络之SqueezeNet ONNX 文件详解** SqueezeNet是一款轻量级的卷积神经网络（CNN），在2016年由斯坦福大学的研究人员提出，它旨在实现与AlexNet相似的准确率，但模型大小却只有其1/50。SqueezeNet的名称...
keras-squeezenet：使用Keras框架实现SqueezeNet
02-06
keras-squeezenet 使用Keras Functional Framework 2.0的SqueezeNet v1.1实现该具有AlexNet精度，且占用空间小（5.1 MB）。 # Most Recent Onepip install git+...
squeezenet1.1
09-22
标题中的“squeezenet1.1”是指一个深度学习模型，SqueezeNet是一个轻量级的卷积神经网络（CNN）架构，主要用于图像分类任务。这个版本是1.1，意味着它是经过优化和改进的早期版本。SqueezeNet以其高效性著称，拥有...
py-R-FCN源码分析
Marshall的专栏
01-05 6744
softmax_loss_ohem_layer.cu #include #include #include #include "caffe/layers/softmax_loss_ohem_layer.hpp" #include "caffe/util/math_functions.hpp" namespace caffe { template __global__ void
Object Detection论文清单
lien0906的专栏
08-23 4376
Jump to... LeaderboardPapers R-CNNFast R-CNNFaster R-CNNMultiBoxSPP-NetDeepID-NetNoCDeepBoxMR-CNNYOLOYOLOv2AttentionNetDenseBoxSSDDSSDInside-Outside Net (ION)G-CNNHyperNetMultiPathNetCRAFTOHEM
【论文】轻量级网络squeezenet论文的详细翻译
u013044310的博客
05-06 6427
前言： 整体上翻译了squeezenet：AlexNet-level accuracy with 50X fewer paramenters and 0.5MB model size.这篇论文，便于英文基础不好的同行进行阅读，由于时间仓促，难免有很多错误，请在评论区指出错误并提出宝贵意见，我会及时修正。 论文地址：aqueezenet论文 SQUEEZENET: ALEXNET-级别精度...
OHEM笔记
lt1103725556的博客
06-14 787
完整名：Training Region-based Object Detectors with Online Hard Example Mining 中文：用在线的困难样例挖掘算法训练基于地区的目标检测器 摘要 主要说现有的目标检测算法开销大，而数据集中又分为大部分的简单样例和小部分的困难样例，如果能自动把困难样例筛选出来，那么算法会更加有效率，这就是OHEM的作用，同时OHEM也确实提高了各种数...
更改LetNet-5网络
ture_dream的博客
11-28 2184
话说上次博客画出来MNIST的LENET-5模型，http://blog.csdn.net/ture_dream/article/details/53007803 今天可以把模型稍加修改，变成逻辑回归（Logistics Regression，LR）分类器 1.复制examples/mnist/lenet_train_test.prototxt,重命名为lenet_lr.prototx
[pytorch] 图像识别之ohem loss (+mixup/cutmix)
MachineLP的专栏
02-07 1639
本人kaggle分享链接：https://www.kaggle.com/c/bengaliai-cv19/discussion/128637 def ohem_loss( rate, cls_pred, cls_target ): batch_size = cls_pred.size(0) ohem_cls_loss = F.cross_entropy(cls_pred...
深度学习目标检测最全最新的方法paper和代码
gqixf的博客
12-27 3196
Jump to... LeaderboardPapers R-CNNFast R-CNNFaster R-CNNMultiBoxSPP-NetDeepID-NetNoCDeepBoxMR-CNNYOLOYOLOv2AttentionNetDenseBoxSSDDSSDInside-Outside Net (ION)G-CNNHyperNetMultiPathNetCRAFT
Caffe——网络配置（prototxt文件）
小白一直白
09-20 1489
网络配置数据层卷积层池化层激活函数全连接层显示准确率层softmax层reshape层Dropout层 数据层 数据层是模型最底层，提供提供数据输入和数据从Blobs转换成别的格式进行保存输出，通常数据预处理(减去均值，放大缩小，裁剪和镜像等)也在这一层设置参数实现。 layer { name: "mnist" #名称 type: "Data" #输入的是LMDB数据，前面的create_mnist.sh做了转换 include: { phase:TRIAN #只在训练的时候才包括(测
faster rcnn源码解读（五）之layer（网络里的input-data）
Leo的博客
09-05 2871
转载自：faster rcnn源码解读（五）之layer（网络里的input-data） - 野孩子的专栏 - 博客频道 - CSDN.NET http://blog.csdn.net/u010668907/article/details/51945844 faster rcnn用python版本的https://github.com/rbgirshick/py-faster-
在眼疾识别数据集上训练squeezenet网络
05-14
眼疾识别是医学领域的重要研究方向之一，而训练深度学习网络可以在一定程度上提高诊断精度和效率。本次训练的网络是squeezenet，它是一种轻量级的卷积神经网络，适合于在计算资源和模型大小有限制的环境中使用。 首先，需要收集眼疾识别数据集，并按照一定比例划分为训练集、验证集和测试集。这个数据集应该涵盖眼部疾病的多个类型，包括青光眼、白内障等。 接着，在Python深度学习框架PyTorch中搭建squeezenet网络，包括前向传播和反向传播的代码实现。可以使用预训练模型来加速收敛，同时需要对网络进行fine-tuning以适应眼疾识别任务。 在训练过程中，可以采用数据增强、正则化等技术来提高网络的泛化能力。比如对图像进行旋转、翻转等随机变换，或者加入dropout层来防止过拟合。 最后，在训练集和验证集上进行交叉验证，在测试集上测试模型的性能。可以采用常见的评价指标，比如准确率、精确率、召回率等来衡量模型的性能。如果模型性能不够理想，可以尝试调整超参数、增加训练数据量、修改网络结构等方式来改善。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值