caffe中使用droupout层对cifar10图片集提高准确率10%(0.62到0.72)

最新推荐文章于 2021-11-18 20:03:04 发布
最新推荐文章于 2021-11-18 20:03:04 发布
阅读量682 收藏
点赞数
分类专栏： 深度学习(基于Caffe)
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zlf19910726/article/details/78690868
版权 


# The train/test net protocol buffer definition
net: "D:\\CaffeInfo\\D_TrainVal\\cifar10_full_train_test.prototxt"
# test_iter specifies how many forward passes the test should carry out.
# In the case of MNIST, we have test batch size 100 and 100 test iterations,
# covering the full 10,000 testing images.
test_iter: 200
# Carry out testing every 500 training iterations.
test_interval: 200
# The base learning rate, momentum and the weight decay of the network.
base_lr: 0.01
momentum: 0.9
weight_decay: 0.004
# The learning rate policy
lr_policy: "step"
gamma: 0.1
stepsize: 10000
# Display every 100 iterations
display: 200
# The maximum number of iterations
max_iter: 100000
# snapshot intermediate results
snapshot: 10000
snapshot_format: HDF5
snapshot_prefix:"D:\\CaffeInfo\\D_TrainVal\\cifar10_full"
# solver mode: CPU or GPU
solver_mode: GPU


/ 

dropout_ratio: 0.1 

name: "CIFAR10_full"
layer {
  name: "cifar"
  type: "Data"
  top: "data"
  top: "label"
  include {
    phase: TRAIN
  }
  transform_param {
    mean_file: "D:\\CaffeInfo\\B_DataCreate\\mean.binaryproto"
  }
  data_param {
    source: "D:\\CaffeInfo\\B_DataCreate\\train_db"
    batch_size: 50
    backend: LMDB
  }
}
layer {
  name: "cifar"
  type: "Data"
  top: "data"
  top: "label"
  include {
    phase: TEST
  }
  transform_param {
    mean_file: "D:\\CaffeInfo\\B_DataCreate\\mean.binaryproto"
  }
  data_param {
    source: "D:\\CaffeInfo\\B_DataCreate\\val_db"
    batch_size: 50
    backend: LMDB
  }
}
layer {
  name: "conv1"
  type: "Convolution"
  bottom: "data"
  top: "conv1"
  param {
    lr_mult: 1
  }
  param {
    lr_mult: 2
  }
  convolution_param {
    num_output: 32
    pad: 2
    kernel_size: 5
    stride: 1
    weight_filler {
      type: "gaussian"
      std: 0.0001
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "pool1"
  type: "Pooling"
  bottom: "conv1"
  top: "pool1"
  pooling_param {
    pool: MAX
    kernel_size: 3
    stride: 2
  }
}
layer {
  name: "relu1"
  type: "ReLU"
  bottom: "pool1"
  top: "pool1"
}
layer {
  name: "norm1"
  type: "LRN"
  bottom: "pool1"
  top: "norm1"
  lrn_param {
    local_size: 3
    alpha: 5e-05
    beta: 0.75
    norm_region: WITHIN_CHANNEL
  }
}
layer {
  name: "conv2"
  type: "Convolution"
  bottom: "norm1"
  top: "conv2"
  param {
    lr_mult: 1
  }
  param {
    lr_mult: 2
  }
  convolution_param {
    num_output: 32
    pad: 2
    kernel_size: 5
    stride: 1
    weight_filler {
      type: "gaussian"
      std: 0.01
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "relu2"
  type: "ReLU"
  bottom: "conv2"
  top: "conv2"
}
layer {
  name: "pool2"
  type: "Pooling"
  bottom: "conv2"
  top: "pool2"
  pooling_param {
    pool: AVE
    kernel_size: 3
    stride: 2
  }
}
layer {
  name: "norm2"
  type: "LRN"
  bottom: "pool2"
  top: "norm2"
  lrn_param {
    local_size: 3
    alpha: 5e-05
    beta: 0.75
    norm_region: WITHIN_CHANNEL
  }
}
layer {
  name: "conv3"
  type: "Convolution"
  bottom: "norm2"
  top: "conv3"
  convolution_param {
    num_output: 64
    pad: 2
    kernel_size: 5
    stride: 1
    weight_filler {
      type: "gaussian"
      std: 0.01
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "relu3"
  type: "ReLU"
  bottom: "conv3"
  top: "conv3"
}
layer {
  name: "pool3"
  type: "Pooling"
  bottom: "conv3"
  top: "pool3"
  pooling_param {
    pool: AVE
    kernel_size: 3
    stride: 2
  }
}
layer {
  name: "ip1"
  type: "InnerProduct"
  bottom: "pool3"
  top: "ip1"
  param {
    lr_mult: 1
    decay_mult: 250
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  inner_product_param {
    num_output: 256
    weight_filler {
      type: "gaussian"
      std: 0.01
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "fc7"
  type: "InnerProduct"
  bottom: "ip1"
  top: "fc7"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  inner_product_param {
    num_output: 10
    weight_filler {
      type: "gaussian"
      std: 0.005
    }
    bias_filler {
      type: "constant"
      value: 1
    }
  }
}
layer {
  name: "relu7"
  type: "ReLU"
  bottom: "fc7"
  top: "fc7"
}
layer {
  name: "drop7"
  type: "Dropout"
  bottom: "fc7"
  top: "fc7"
  dropout_param {
    dropout_ratio: 0.1
  }
}
layer {
  name: "accuracy"
  type: "Accuracy"
  bottom: "fc7"
  bottom: "label"
  top: "accuracy"
  include {
    phase: TEST
  }
}
layer {
  name: "loss"
  type: "SoftmaxWithLoss"
  bottom: "fc7"
  bottom: "label"
  top: "loss"
}




没有droupout

name: "CIFAR10_full"
layer {
  name: "cifar"
  type: "Data"
  top: "data"
  top: "label"
  include {
    phase: TRAIN
  }
  transform_param {
    mean_file: "D:\\CaffeInfo\\B_DataCreate\\mean.binaryproto"
  }
  data_param {
    source: "D:\\CaffeInfo\\B_DataCreate\\train_db"
    batch_size: 50
    backend: LMDB
  }
}
layer {
  name: "cifar"
  type: "Data"
  top: "data"
  top: "label"
  include {
    phase: TEST
  }
  transform_param {
    mean_file: "D:\\CaffeInfo\\B_DataCreate\\mean.binaryproto"
  }
  data_param {
    source: "D:\\CaffeInfo\\B_DataCreate\\val_db"
    batch_size: 50
    backend: LMDB
  }
}
layer {
  name: "conv1"
  type: "Convolution"
  bottom: "data"
  top: "conv1"
  param {
    lr_mult: 1
  }
  param {
    lr_mult: 2
  }
  convolution_param {
    num_output: 32
    pad: 2
    kernel_size: 5
    stride: 1
    weight_filler {
      type: "gaussian"
      std: 0.0001
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "pool1"
  type: "Pooling"
  bottom: "conv1"
  top: "pool1"
  pooling_param {
    pool: MAX
    kernel_size: 3
    stride: 2
  }
}
layer {
  name: "relu1"
  type: "ReLU"
  bottom: "pool1"
  top: "pool1"
}
layer {
  name: "norm1"
  type: "LRN"
  bottom: "pool1"
  top: "norm1"
  lrn_param {
    local_size: 3
    alpha: 5e-05
    beta: 0.75
    norm_region: WITHIN_CHANNEL
  }
}
layer {
  name: "conv2"
  type: "Convolution"
  bottom: "norm1"
  top: "conv2"
  param {
    lr_mult: 1
  }
  param {
    lr_mult: 2
  }
  convolution_param {
    num_output: 32
    pad: 2
    kernel_size: 5
    stride: 1
    weight_filler {
      type: "gaussian"
      std: 0.01
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "relu2"
  type: "ReLU"
  bottom: "conv2"
  top: "conv2"
}
layer {
  name: "pool2"
  type: "Pooling"
  bottom: "conv2"
  top: "pool2"
  pooling_param {
    pool: AVE
    kernel_size: 3
    stride: 2
  }
}
layer {
  name: "norm2"
  type: "LRN"
  bottom: "pool2"
  top: "norm2"
  lrn_param {
    local_size: 3
    alpha: 5e-05
    beta: 0.75
    norm_region: WITHIN_CHANNEL
  }
}
layer {
  name: "conv3"
  type: "Convolution"
  bottom: "norm2"
  top: "conv3"
  convolution_param {
    num_output: 64
    pad: 2
    kernel_size: 5
    stride: 1
    weight_filler {
      type: "gaussian"
      std: 0.01
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "relu3"
  type: "ReLU"
  bottom: "conv3"
  top: "conv3"
}
layer {
  name: "pool3"
  type: "Pooling"
  bottom: "conv3"
  top: "pool3"
  pooling_param {
    pool: AVE
    kernel_size: 3
    stride: 2
  }
}
layer {
  name: "ip1"
  type: "InnerProduct"
  bottom: "pool3"
  top: "ip1"
  param {
    lr_mult: 1
    decay_mult: 250
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  inner_product_param {
    num_output: 10
    weight_filler {
      type: "gaussian"
      std: 0.01
    }
    bias_filler {
      type: "constant"
    }
  }
}
layer {
  name: "accuracy"
  type: "Accuracy"
  bottom: "ip1"
  bottom: "label"
  top: "accuracy"
  include {
    phase: TEST
  }
}
layer {
  name: "loss"
  type: "SoftmaxWithLoss"
  bottom: "ip1"
  bottom: "label"
  top: "loss"
}


///
































吃我老猪一钉耙
关注
专栏目录
CIFAR10准确率达96.2%，（resnet18且不使用预训练模型）
2301_77643717的博客
07-21 386
我仅凭数据增强方法，可以随机对图像进行（旋转角度、灰度处理、色调调整、随机放射变换）。并且创造性地将训练集复制多份，将测试集准确率提升到95以上。模型调整方面，选择renet18、resnet34、resnet50模型的基础上进行相应的改进，修改了线性层，池化层，Dropout层，最后做出对比。优化器选择方面，从不同参数对于不同优化器的影响，做出对比实验，选出最终的优化器（SGD）。通过以上三个步骤，我们成功将测试集准确率集提升到96%以上。三个方面来提高分类的准确度。具体代码见ipynb文件。
【深度学习】Cifar-10-探究不同的改进策略对分类准确率提高
12-21
【深度学习】Cifar-10-探究不同的改进策略对分类准确率提高【深度学习】Cifar-10-探究不同的改进策略对分类准确率提高
将cifar10数据集进行数据增广以后加入训练，提高准确率高达87%以上的神经网络结构，并将训练过程中的模型保存在本地
繁华三千东流水不舍昼夜的博客
09-29 1894
增加图像分类的准确率，增广数据总是不错的办法
提高CIFAR-10分类准确度的方法
持之以恒
11-18 1170
https://www.zhihu.com/question/452410923
如何提高cifar-10数据集的分类的精度
qq_45704645的博客
05-28 1万+
如何提高cifar-10数据集的分类的准确率 一、问题描述 当我们在处理图像识别或者图像分类或者其他机器学习任务的时候，我们总是迷茫于做出哪些改进能够提升模型的性能（识别率、分类准确率）。。。或者说我们在漫长而苦恼的调参过程中到底调的是哪些参数。。。所以，我花了一部分时间在公开数据集 CIFAR-10 [1] 上进行探索，来总结出一套方法能够快速高效并且有目的性地进行网络训练和参数调整。 CIFAR-10 数据集有 60000 张图片，每张图片均为分辨率为 32*32 的彩色图片（分为 RGB3 个信道）。
Tensorflow 2.1训练 实战 cifar10 完整代码 准确率 88.6% 模型 Resnet SENet Inception
12-21
环境： tensorflow 2.1 最好用GPU 模型： Resnet：把前一层的数据直接加到下一层里。减少数据在传播过程中过多的丢失。 SENet： 学习每一层的通道之间的关系 Inception: 每一层都用不同的核（1×1，3×3，5×5）来学习.防止因为过小的核或者过大的核而学不到图片的特征。 用Resnet ，SENet， Inceptiont网络训练Cifar10 或者Cifar 100. 训练数据：Cifar10 或者 Cifar 100 训练集上准确率：97.11%左右 验证集上准确率：90.22%左右 测试集上准确率：88.6% 训练时间在GPU上：一小时多 权重大小：21
Caffe数据集：CIFAR10之二
12-01
CIFAR10数据集是Caffe进行图像分类任务时常用的训练数据集之一，它包含10个类别的60,000张32x32像素的小型彩色图像。这个数据集被广泛用于测试和比较各种机器学习模型，特别是CNNs的性能。 CIFAR10数据集分为两个...
cifar-10-binary.tar.gz数据集
03-14
CIFAR-10二进制数据集（cifar-10-binary.tar.gz）是深度学习领域常用的图像识别数据集，特别适用于训练和测试各种计算机视觉模型，如卷积神经网络（CNN）。这个数据集由Caffe框架所采用，便于进行分类任务的实践和...
Caffe数据集：CIFAR10之一
12-01
训练过程中，Caffe会使用训练集对模型进行优化，并在测试集上评估模型性能，以达到最佳的分类准确率。 总之，Caffe与CIFAR10结合使用，可以帮助我们理解和实践深度学习中的卷积神经网络。通过CIFAR10数据集，我们...
caffe-cifar100数据集
12-26
使用转换后的LMDB数据集，用户可以轻松地在Caffe中构建和训练深度学习模型，对CIFAR-100数据集进行图像分类任务。这对于研究和开发新的卷积神经网络架构或比较不同方法的性能非常有用。 总之，这个压缩包提供的...
caffe快速上手——cifar10源代码
10-04
CIFAR-10是机器学习领域的一个经典数据集，包含60,000张32x32像素的彩色图像，分为10个类别，每类有6,000张图片。这个数据集常用于验证和比较不同的图像分类算法。 本教程将带你快速入门Caffe，通过实现CIFAR-10的...
CIFAR-10 数据和Keras CNN程序 识别率89%左右
04-12
CIFAR-10 数据和Keras CNN程序 识别率89%左右 CIFAR-10数据为npz格式
浅谈keras使用预训练模型vgg16分类,损失和准确度不变
09-16
主要介绍了浅谈keras使用预训练模型vgg16分类,损失和准确度不变，具有很好的参考价值，希望对大家有所帮助。一起跟随小编小编过来看看吧
keras实现VGG16 CIFAR10数据集方式
09-16
主要介绍了keras实现VGG16 CIFAR10数据集方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
caffe详解之Dropout层
u012347027的博客
06-10 6386
从零开始，一步一步学习caffe的使用，期间贯穿深度学习和调参的相关知识！   Dropout 参数设置 Dropout是一个防止过拟合的层,只需要设置一个dropout_ratio就可以了。 layer {   name: "drop7"   type: "Dropout"   bottom: "fc7-conv"   top: "fc7-conv"   dropout_param ...
深度学习之cifar-10⑧——利用数据优化提升准确率(87%)
门前大橋下丶
09-29 5691
此代码是在以前cifar-10的基础上对数据进行优化(随机翻转、调整光照、改变对比度、白化、使用均值或方差的分布信息、保存参数等等)来提高准确率 import tensorflow as tf import numpy as np import os import pickle CIFAR_DIR = "../../datas/cifar-10-batches-py" def load_dat...
caffe之CIFAR-10与dropout
诗酒年华
04-13 6410
CIFAR-10实例 caffe中的CIFAR-10实例重现了Alex Krizhevsky的cuda-convnet中的结果，具体的模型定义、参数、训练步骤等都是按照cuda-convnet中的进行设置的。不过，该实例仍是半成品，目前官网上介绍的只是quick train，对于进一步解释网络细节和训练选择的full training还未完工。 cuda-convnet是Alex Krizhev
caffe中 cifar10案例（一）训练模型
moses_shen的博客
07-01 426
背景知识 cifar10数据训练样本50000张，测试样本10000张，每张为32*32的彩色三通道图片，共分为10类。 下载数据： cd/opt/caffe−master cd /opt/caffe-master sudo sh data/cifar10/get_cifar10.sh直接运行这个脚本速度特慢，用迅雷直接下载http://www.cs.toronto.edu/~kriz/ci
TensorFlow学习笔记（十）： CIFAR-10
热门推荐
沫尘的博客
05-26 6万+
1. CIFAR-10 Cifar-10 是由 Hinton 的两个大弟子 Alex Krizhevsky、Ilya Sutskever 收集的一个用于普适物体识别的数据集。Cifar 是加拿大政府牵头投资的一个先进科学项目研究所。Hinton、Bengio和他的学生在2004年拿到了 Cifar 投资的少量资金，建立了神经计算和自适应感知项目。这个项目结集了不少计算机科学家、生物学家、电气
Windows上使用Caffe训练CIFAR10全攻略
"这篇教程详细介绍了在Windows操作系统上使用Caffe深度学习框架训练CIFAR-10数据集的完整步骤。首先，你需要准备好CIFAR-10数据集，将其转换为Caffe所要求的leveldb格式，因为这是Caffe数据输入层支持的数据库格式。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值