DenseNet网络实践（caffe版）

最新推荐文章于 2024-04-21 22:13:03 发布
最新推荐文章于 2024-04-21 22:13:03 发布
阅读量1.8k 收藏 4
点赞数
分类专栏： caffe 深度学习 文章标签： DenseNet网络复现 caffe版 windows 预训练模型 fine_tune
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/GL3_24/article/details/90478764
版权
本文详细介绍了在Windows上使用Caffe实现DenseNet网络的步骤，包括源码下载、网络文件修改、训练、测试及预训练模型的fine-tune。涉及关键文件如train_densenet.prototxt、solver.prototxt的配置，并提醒注意内存管理和参数调整。
摘要由CSDN通过智能技术生成

论文名称：Densely Connected Convolutional Networks（CVPR 2017, Best Paper Award）
论文链接：https://arxiv.org/pdf/1608.06993.pdf
源码链接：https://github.com/liuzhuang13/DenseNet
caffe版源码： https://github.com/liuzhuang13/DenseNetCaffe

本篇博文实现了在Windows环境下DenseNet网络的复现（caffe版）（应用到自己的数据集）

一、下载源码

源码中共有六个文件，分别进行解释。
在这里插入图片描述
1.make_densenet.py
make_densenet.py主要用来生成train_densenet.prototxt文件、test_densenet.prototxt文件以及solver.prototxt文件。打开该文件然后run就可以生成以上三个文件。同时可以修改make_densenet.py其中的参数从而修改这三个文件内的参数，比如：路径等。
2.train_densenet.prototxt文件
train_densenet.prototxt文件是训练时用到的网络文件。
3.test_densenet.prototxt文件
test_densenet.prototxt文件是在训练过程中的验证部分用到的网络文件。
4.solver.prototxt文件
solver.prototxt文件是caffe常用的文件。
5.train. sh
train.sh是ubuntu系统下训练文件，在windows系统下是train.bat文件。

注意：
需要注意的是solver.prototxt文件中有两个重要的参数train_net: "train_densenet.prototxt"和test_net: "test_densenet.prototxt"，这里个参数分别是训练和验证时用到的网络。原来的网络这部分的参数是net: "train_val.prototxt"。这是与原来的网络的很大的区别。
（不过train_densenet.prototxt文件、test_densenet.prototxt文件可以修改成一个文件，也就是原来我们常用的train_val.prototxt文件）

train_net: "train_densenet.prototxt"
test_net: "test_densenet.prototxt"
test_iter: 200
test_interval: 800
base_lr: 0.1
display: 1
max_iter: 230000
lr_policy: "multistep"
gamma: 0.1
momentum: 0.9
weight_decay: 0.0001
solver_mode: GPU
random_seed: 831486
stepvalue: 115000
stepvalue: 172500
type: "Nesterov"

二、修改网络训练文件

主要是修改train_densenet.prototxt文件、test_densenet.prototxt文件以及solver.prototxt文件
1.solver.prototxt文件
根据自己的数据集以及经验对改文件进行修改。

2.train_densenet.prototxt文件
主要修改mean_file路径、source路径和最后全连接层的输出参数num_output（根据自己的任务，如二分类，该值应该设为2）。
在这里插入图片描述
在这里插入图片描述
3.test_densenet.prototxt文件
同修改train_densenet.prototxt文件类似
主要修改mean_file路径、source路径和最后全连接层的输出参数num_output（根据自己的任务，如二分类，该值应该设为2）。
在这里插入图片描述
在这里插入图片描述
注意：
1.num_output参数一定要根据自己的任务进行修改。
2.根据自己电脑配置修改batch_size大小。
3.其实train_densenet.prototxt文件、test_densenet.prototxt文件可以修改成一个文件，也就是原来我们常用的train_val.prototxt文件（这里就不改了）。

三、开始训练

编辑train.bat，然后双击训练。

SET GLOG_logtostderr=1
caffe.exe路径\caffe.exe train --solver solver.prototxt路径\solver.prototxt 
pause

训练时可能会出现内存不足的情况，这时候需要调整batch_size大小再进行训练。

四、测试

1.生成deploy.prototxt 文件。
我是根据test_densenet.prototxt文件自己生成了对应densenet的deploy.prototxt 文件，具体方法请查看我的另一篇博客：https://blog.csdn.net/GL3_24/article/details/90109237 。此处只贴出来对应的deploy.prototxt 文件，很长。仅供参考。

name: "DENSENET_121"
input: "Data1"
input_dim: 1
input_dim: 3
input_dim: 224
input_dim: 224

 
layer {
  name: "Convolution1"
  type: "Convolution"
  bottom: "Data1"
  top: "Convolution1"
  convolution_param {
    num_output: 16
    bias_term: false
    pad: 1
    kernel_size: 3
    stride: 1
    weight_filler {
      type: "msra"
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "BatchNorm1"
  type: "BatchNorm"
  bottom: "Convolution1"
  top: "BatchNorm1"
  param {
    lr_mult: 0
    decay_mult: 0
  }
  param {
    lr_mult: 0
    decay_mult: 0
  }
  param {
    lr_mult: 0
    decay_mult: 0
  }
}
layer {
  name: "Scale1"
  type: "Scale"
  bottom: "BatchNorm1"
  top: "BatchNorm1"
  scale_param {
    filler {
      value: 1
    }
    bias_term: true
    bias_filler {
      value: 0
    }
  }
}
layer {
  name: "ReLU1"
  type: "ReLU"
  bottom: "BatchNorm1"
  top: "BatchNorm1"
}
layer {
  name: "Convolution2"
  type: "Convolution"
  bottom: "BatchNorm1"
  top: "Convolution2"
  convolution_param {
    num_output: 12
    bias_term: false
    pad: 1
    kernel_size: 3
    stride: 1
    weight_filler {
      type: "msra"
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "Dropout1"
  type: "Dropout"
  bottom: "Convolution2"
  top: "Dropout1"
  dropout_param {
    dropout_ratio: 0.2
  }
}
layer {
  name: "Concat1"
  type: "Concat"
  bottom: "Convolution1"
  bottom: "Dropout1"
  top: "Concat1"
  concat_param {
    axis: 1
  }
}
layer {
  name: "BatchNorm2"
  type: "BatchNorm"
  bottom: "Concat1"
  top: "BatchNorm2"
  param {
    lr_mult: 0
    decay_mult: 0
  }
  param {
    lr_mult: 0
    decay_mult: 0
  }
  param {
    lr_mult: 0
    decay_mult: 0
  }
}
layer {
  name: "Scale2"
  type: "Scale"
  bottom: "BatchNorm2"
  top: "BatchNorm2"
  scale_param {
    filler {
      value: 1
    }
    bias_term: true
    bias_filler {
      value: 0
    }
  }
}
layer {
  name: "ReLU2"
  type: "ReLU"
  bottom: "BatchNorm2"
  top: "BatchNorm2"
}
layer {
  name: "Convolution3"
  type: "Convolution"
  bottom: "BatchNorm2"
  top: "Convolution3"
  convolution_param {
    num_output: 12
    bias_term: false
    pad: 1
    kernel_size: 3
    stride: 1
    weight_filler {
      type: "msra"
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "Dropout2"
  type: "Dropout"
  bottom: "Convolution3"
  top: "Dropout2"
  dropout_param {
    dropout_ratio: 0.2
  }
}
layer {
  name: "Concat2"
  type: "Concat"
  bottom: "Concat1"
  bottom: "Dropout2"
  top: "Concat2"
  concat_param {
    axis: 1
  }
}
layer {
  name: "BatchNorm3"
  type: "BatchNorm"
  bottom: "Concat2"
  top: "BatchNorm3"
  param {
    lr_mult: 0
    decay_mult: 0
  }
  param {
    lr_mult: 0
    decay_mult: 0
  }
  param {
    lr_mult: 0
    decay_mult: 0
  }
}
layer {
  name: "Scale3"
  type: "Scale"
  bottom: "BatchNorm3"
  top: "BatchNorm3"
  scale_param {
    filler {
      value: 1
    }
    bias_term: true
    bias_filler {
      value: 0
    }
  }
}
layer {
  name: "ReLU3"
  type: "ReLU"
  bottom: "BatchNorm3"
  top: "BatchNorm3"
}
layer {
  name: "Convolution4"
  type: "Convolution"
  bottom: "BatchNorm3"
  top: "Convolution4"
  convolution_param {
    num_output: 12
    bias_term: false
    pad: 1
    kernel_size: 3
    stride: 1
    weight_filler {
      type: "msra"
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "Dropout3"
  type: "Dropout"
  bottom: "Convolution4"
  top: "Dropout3"
  dropout_param {
    dropout_ratio: 0.2
  }
}
layer {
  name: "Concat3"
  type: "Concat"
  bottom: "Concat2"
  bottom: "Dropout3"
  top: "Concat3"
  concat_param {
    axis: 1
  }
}
layer {
  name: "BatchNorm4"
  type: "BatchNorm"
  bottom: "Concat3"
  top: "BatchNorm4"
  param {
    lr_mult: 0
    decay_mult: 0
  }
  param {
    lr_mult: 0
    decay_mult: 0
  }
  param {
    lr_mult: 0
    decay_mult: 0
  }
}
layer {
  name: "Scale4"
  type: "Scale"
  bottom: "BatchNorm4"
  top: "BatchNorm4"
  scale_param {
    filler {
      value: 1
    }
    bias_term: true
    bias_filler {
      value: 0
    }
  }
}
layer {
  name: "ReLU4"
  type: "ReLU"
  bottom: "BatchNorm4"
  top: "BatchNorm4"
}
layer {
  name: "Convolution5"
  type: "Convolution"
  bottom: "BatchNorm4"
  top: "Convolution5"
  convolution_param {
    num_output: 12
    bias_term: false
    pad: 1
    kernel_size: 3
    stride: 1
    weight_filler {
      type: "msra"
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "Dropout4"
  type: "Dropout"
  bottom: "Convolution5"
  top: "Dropout4"
  dropout_param {
    dropout_ratio: 0.2
  }
}
layer {
  name: "Concat4"
  type: "Concat"
  bottom: "Concat3"
  bottom: "Dropout4"
  top: "Concat4"
  concat_param {
    axis: 1
  }
}
layer {
  name: "BatchNorm5"
  type: "BatchNorm"
  bottom: "Concat4"
  top: "BatchNorm5"
  param {
    lr_mult: 0
    decay_mult: 0
  }
  param {
    lr_mult: 0
    decay_mult: 0
  }
  param {
    lr_mult: 0
    decay_mult: 0
  }
}
layer {
  name: "Scale5"
  type: "Scale"
  bottom: "BatchNorm5"
  top: "BatchNorm5"
  scale_param {
    filler {
      value: 1
    }
    bias_term: true
    bias_filler {
      value: 0
    }
  }
}
layer {
  name: "ReLU5"
  type: "ReLU"
  bottom: "BatchNorm5"
  top: "BatchNorm5"
}
layer {
  name: "Convolution6"
  type: "Convolution"
  bottom: "BatchNorm5"
  top: "Convolution6"
  convolution_param {
    num_output: 12
    bias_term: false
    pad: 1
    kernel_size: 3
    stride: 1
    weight_filler {
      type: "msra"
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "Dropout5"
  type: "Dropout"
  bottom: "Convolution6"
  top: "Dropout5"
  dropout_param {
    dropout_ratio: 0.2
  }
}
layer {
  name: "Concat5"
  type: "Concat"
  bottom: "Concat4"
  bottom: "Dropout5"
  top: "Concat5"
  concat_param {
    axis: 1
  }
}
layer {
  name: "BatchNorm6"
  type: "BatchNorm"
  bottom: "Concat5"
  top: "BatchNorm6"
  param {
最低0.47元/天 解锁文章
心窄
关注
  • 0
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 19
    评论
专栏目录
Caffe 运行平台支持DenseNet模型
楚兴
03-23 1111
文章目录1 集成DenseNet的报错信息2 caffe源码分析及修改2.1 pooling层源码分析2.2 caffe源码修改3 总结 在计算机视觉领域，卷积神经网络（CNN）已经成为最主流的方法，比如GoogLenet、VGG-19、Incepetion等模型。CNN史上的一个里程碑事件是ResNet模型的出现，ResNet可以训练出更深的CNN模型，从而实现更高的准确度。ResNet模型的核...
Densenet121.zip
03-25
DenseNet121是DenseNet网络架构的一个变体，由Gao Huang等人在2017年提出。DenseNet的特点在于其密集连接（Dense Connections）的设计，每个层的输入不仅包括前一层的输出，还包括所有之前层的输出，这样的设计极大...
DenseNet-caffe
p2b345的博客
08-07 216
https://github.com/shicai/DenseNet-Caffe DenseNet_161.prototxt DenseNet_121.prototxt DenseNet_169.prototxt DenseNet_201.prototxt
分类神经网络3：DenseNet模型复现
最新发布
悠眠小虫的博客
04-21 1103
这是由于卷积层的输入包含了它前面所有层的输出特征，它们来自不同层的输出，因此数值分布差异比较大，所以它们在输入到下一个卷积层时，必须先经过BN层将其数值进行标准化，然后再进行卷积操作。：用于将不同DenseBlock之间进行连接，整合上一个DenseBlock获得的特征，并且缩小上一个DenseBlock的宽高，达到下采样的效果，实质上起到。互相连接所有的层，即每一层的输入都来自于它前面所有层的特征图，每一层的输出均会直接连接到它后面所有层的输入，这可以实现。），二者均是通过建立前面层与后面层之间的。
caffe ResNet & DenseNet
sunnygirl's house
05-08 325
ResNet ResNet prototxt 链接https://github.com/antingshen/resnet-protofiles 其中包含ResNet18，ResNet34，ResNet50，ResNet101以及ResNet152 ResNet50，ResNet101以及ResNet152对应的caffe模型 链接：https://pan.baidu.com/...
Caffe学习（四）：Windows使用Cifar10训练及测试Caffe版DenseNet
夜风里唱的专栏
07-08 541
论文名称：Densely Connected Convolutional Networks（CVPR 2017, Best Paper Award） 论文链接：https://arxiv.org/pdf/1608.06993.pdf 源码链接：https://github.com/liuzhuang13/DenseNet caffe版源码： https://github.com/liuzhuang...
神经网络论文_神经网络论文_densenet_论文_
10-02
在神经网络领域，密集连接网络（DenseNet）与VGGNet是两个具有深远影响力的模型。这两个模型分别在深度学习的图像识别任务中展现出了强大的性能，并为后续的网络架构设计提供了新的思路。 首先，我们来详细探讨...
Densenet.rar
06-02
Densnet121，Densenet169，Densenet201，预训练模型，适合Keras库，包括有notop的和无notop的。CSDN上传最大只能480M，后续的模型将陆续上传，GitHub限速，搬的好累，搬了好几天。放到CSDN上，方便大家快速下载。
DenseNet201_densenet_训练模型_densenet201_
09-29
DenseNet201是深度学习领域中一种高效的卷积神经网络（Convolutional Neural Network, CNN）架构，由Gao Huang等人在2017年的论文《Densely Connected Convolutional Networks》中提出。这个模型的核心特点是其稠密...
tensorflow-densenet-resnet-inception网络
05-18
本文件聚焦于三种在图像识别任务中表现卓越的网络结构：DenseNet、ResNet以及Inception Network。这些模型都在CIFAR-10数据集上进行了训练和测试，CIFAR-10是一个包含10类小图像的标准数据集，常用于验证和比较不同...
基于DenseNet网络深度学习法CT图像人工智能分析技术判断肺结节良恶性.pdf
08-18
基于DenseNet网络深度学习法CT图像人工智能分析技术判断肺结节良恶性.pdf
Densenet稠密连接网络
07-04
Densenet稠密连接网络，使用tensorflow框架，网络模型的主体清晰易读，可以直接进行调用
DenseNet-121-数据集
03-04
DenseNet-121 Pre-trained Model for PyTorch. PyTorch的DenseNet-121预训练模型。 DenseNet-121_datasets.txt
densenet121_weights_tf.h5 最好的深度学习网络的权重
12-14
densenet121_weights_tf.h5 最好的深度学习网络的权重 代码在github上可以找到！
Winodws10下利用CAFFE对DenseNet进行训练
weixin_43728908的博客
06-03 253
1.将文件夹中的图片批量重命名 可以利用以下代码实现 #-*- coding: UTF-8 -*- import os path = " " #图片所在路径 filelist = os.listdir(path) #该文件夹下所有的文件（包括文件夹） count=0 for file in filelist: print(file) for file in filelist: #遍历所...
记录一下caffe1.0里添加densenet
mjiansun的专栏
07-18 813
DenseNet网络是应用由于分类任务中，在目前较好的分类网络ResNets，他们之前存在着很多的不同。下面先来说一说。  先来看一看网络模型结构：  DenseNet主要解决的问题是缓解了消失梯度的问题，增强了特征的传播，促进了特征再利用，大大减少了参数的数量，使网络模型模型进行缩减。  这篇文章中作者主要用了DenseNet-121（k=32），DenseNet-169（k=32），Dense...
Caffe架构的搭建及Caffe架构下DenseNet网络的构建
HenryHan110的博客
02-08 954
笔者发现国内的教程对Caffe架构的搭建鲜有bug较少的，于是我也来写一篇来做一个备忘，也希望能帮到大家~转载请注明出处。0.软件准备：需要准备哪些软件不是凭空而来的。大家要养成认真看readme的习惯，readme如果强调了版本问题的话那就最好按照文档上的版本来搭建，否则遇到问题再返回来修改版本问题得不偿失。首先，官方的caffe链接在这里：https://github.com/Microsof...
caffe2转换DenseNet-Caffe的权值文件时报错“has no field named ceil_mode”
Blateyang的博客
03-20 1323
原因分析 出现该错误的原因是DenseNet-Caffe中用到了ceil_mode操作，由于master版本的caffe中并不支持该操作，而Caffe2中的caffe.proto文件又是直接从caffe-master中拷贝过来的，故产生了该错误。 解决方法 该错误在caffe中也会遇到，在caffe中的解决办法是修改源码，然后重新编译caffe。具体可以参考这篇博客。但caffe2中貌似...
densenet网络结构
05-19
DenseNet（Densely Connected Convolutional Networks）是由2017年CVPR Best Paper获得者Jegou等人提出的一种深度卷积神经网络。相比于传统的卷积神经网络，DenseNet的主要特点是在层与层之间增加了直接的连接，这...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 19
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值