使用VGG训练Imagenet

最新推荐文章于 2024-05-05 14:03:26 发布
最新推荐文章于 2024-05-05 14:03:26 发布
阅读量2.7w 收藏 26
点赞数 3
分类专栏： Keson's Think 文章标签： imagenet vgg
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/kesonyk/article/details/53819132
版权

使用VGG训练Imagenet

以前的笔记，放上来吧~~~

准备数据

具体官网地址，请点击这里

ImageNet官网

训练数据集：ILSVRC2012_img_train.tar

验证数据集：ILSVRC2012_img_val.tar

数据解压

sudo tar –xvf ILSVRC2012_img_train.tar -C ./train
sudo tar –xvf ILSVRC2012_img_val.tar -C ./val

对于val数据集，解压以后是所有的验证集图片，共50000张，大约6.3G。

对于train数据集，解压后是1000个tar文件，每个tar文件表示1000类里的一个类，共138G，对于1000个子tar，需要再次解压，解压脚本unzip.sh如下

dir=/home/satisfie/imagenet/train #satisfie 是我的用户名
for x in `ls *.tar`
do
    filename=`basename $x .tar`   #注意空格
    mkdir $filename
    tar -xvf $x -C ./$filename
done

i7 6700K配合我的500G固态硬盘解压超快，到这原始数据就准备好了，分别放在

  • /home/satisfie/imagenet/train：里面有1000个文件夹，每个文件夹下为JPG图片

  • /home/satisfie/imagenet/val ：里面有验证集的50000张图片

接下来下载标签等其他说明数据~~~

下载其他数据

进入大caffe根目录，执行/data/ilsvrc12/get_ilsvrc_aux.sh下载其他数据，包括

  • det_synset_words.txt
  • synset_words.txt— 1000个类别的文件夹名称及真是物体的名称，比如 “n01440764 tench Tinca tinca”,在训练中，这些都当做一个类别。
  • synsets.txt — 1000个类别的文件夹名称,比如”n01440764”…
  • train.txt — 1000个类别每张图片的名字及其标签，比如 “n01440764/n01440764_10026.JPEG 0” 共有1281167张图片
  • val.txt — 同上，总共有50000张。比如“ILSVRC2012_val_00000001.JPEG 65”
  • test.txt — 同上，为测试集合,总有100000张
  • imagenet_mean.binaryproto — 模型图片的各个通道均值
  • imagenet.bet.pickle

模型的训练

训练数据准备

由于转化为lmdb数据库格式需要耗费较大的空间，且不支持shuffle等操作，所以这里直接读取原图片，使用的类型是ImageData，具体看下面的prototxt

其中的train_new.txt中对每张图片的加上了绝对值路径，这样才能被读取。
使用sed命令即可，

sed 's/^/\/home\/satisfie\/imagenet\/val\/&/g' val.txt >val_new.txt

VGG_train_val.prototxt

name: "VGG_ILSVRC_16_layers"
layer {
  name: "data"
  type: "ImageData"
  include {
    phase: TRAIN
  }
 transform_param {
    #crop_size: 224
    mean_value: 104
    mean_value: 117
    mean_value: 123
    mirror: true
 }
 image_data_param {
    source: "/home/satisfie/imagenet/train_new.txt"
    batch_size: 8
    new_height: 224
    new_width: 224
  }
  top: "data"
  top: "label"
}
layer {
  name: "data"
  type: "ImageData"
  include {
    phase: TEST
  }
 transform_param {
    #crop_size: 224
    mean_value: 104
    mean_value: 117
    mean_value: 123
    mirror: false
 }
 image_data_param {
    source: "/home/satisfie/imagenet/val_new.txt"
    batch_size: 4
    new_height: 224
    new_width: 224
  }
  top: "data"
  top: "label"
}
layer {
  bottom: "data"
  top: "conv1_1"
  name: "conv1_1"
  type: "Convolution"
  convolution_param {
    num_output: 64
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv1_1"
  top: "conv1_1"
  name: "relu1_1"
  type: "ReLU"
}
layer {
  bottom: "conv1_1"
  top: "conv1_2"
  name: "conv1_2"
  type: "Convolution"
  convolution_param {
    num_output: 64
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv1_2"
  top: "conv1_2"
  name: "relu1_2"
  type: "ReLU"
}
layer {
  bottom: "conv1_2"
  top: "pool1"
  name: "pool1"
  type: "Pooling"
  pooling_param {
    pool: MAX
    kernel_size: 2
    stride: 2
  }
}
layer {
  bottom: "pool1"
  top: "conv2_1"
  name: "conv2_1"
  type: "Convolution"
  convolution_param {
    num_output: 128
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 0
  }
  param {
    lr_mult: 0
  }
}
layer {
  bottom: "conv2_1"
  top: "conv2_1"
  name: "relu2_1"
  type: "ReLU"
}
layer {
  bottom: "conv2_1"
  top: "conv2_2"
  name: "conv2_2"
  type: "Convolution"
  convolution_param {
    num_output: 128
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv2_2"
  top: "conv2_2"
  name: "relu2_2"
  type: "ReLU"
}
layer {
  bottom: "conv2_2"
  top: "pool2"
  name: "pool2"
  type: "Pooling"
  pooling_param {
    pool: MAX
    kernel_size: 2
    stride: 2
  }
}
layer {
  bottom: "pool2"
  top: "conv3_1"
  name: "conv3_1"
  type: "Convolution"
  convolution_param {
    num_output: 256
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv3_1"
  top: "conv3_1"
  name: "relu3_1"
  type: "ReLU"
}
layer {
  bottom: "conv3_1"
  top: "conv3_2"
  name: "conv3_2"
  type: "Convolution"
  convolution_param {
    num_output: 256
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv3_2"
  top: "conv3_2"
  name: "relu3_2"
  type: "ReLU"
}
layer {
  bottom: "conv3_2"
  top: "conv3_3"
  name: "conv3_3"
  type: "Convolution"
  convolution_param {
    num_output: 256
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv3_3"
  top: "conv3_3"
  name: "relu3_3"
  type: "ReLU"
}
layer {
  bottom: "conv3_3"
  top: "pool3"
  name: "pool3"
  type: "Pooling"
  pooling_param {
    pool: MAX
    kernel_size: 2
    stride: 2
  }
}
layer {
  bottom: "pool3"
  top: "conv4_1"
  name: "conv4_1"
  type: "Convolution"
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv4_1"
  top: "conv4_1"
  name: "relu4_1"
  type: "ReLU"
}
layer {
  bottom: "conv4_1"
  top: "conv4_2"
  name: "conv4_2"
  type: "Convolution"
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv4_2"
  top: "conv4_2"
  name: "relu4_2"
  type: "ReLU"
}
layer {
  bottom: "conv4_2"
  top: "conv4_3"
  name: "conv4_3"
  type: "Convolution"
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv4_3"
  top: "conv4_3"
  name: "relu4_3"
  type: "ReLU"
}
layer {
  bottom: "conv4_3"
  top: "pool4"
  name: "pool4"
  type: "Pooling"
  pooling_param {
    pool: MAX
    kernel_size: 2
    stride: 2
  }
}
layer {
  bottom: "pool4"
  top: "conv5_1"
  name: "conv5_1"
  type: "Convolution"
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv5_1"
  top: "conv5_1"
  name: "relu5_1"
  type: "ReLU"
}
layer {
  bottom: "conv5_1"
  top: "conv5_2"
  name: "conv5_2"
  type: "Convolution"
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv5_2"
  top: "conv5_2"
  name: "relu5_2"
  type: "ReLU"
}
layer {
  bottom: "conv5_2"
  top: "conv5_3"
  name: "conv5_3"
  type: "Convolution"
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "conv5_3"
  top: "conv5_3"
  name: "relu5_3"
  type: "ReLU"
}
layer {
  bottom: "conv5_3"
  top: "pool5"
  name: "pool5"
  type: "Pooling"
  pooling_param {
    pool: MAX
    kernel_size: 2
    stride: 2
  }
}
layer {
  bottom: "pool5"
  top: "fc6"
  name: "fc6"
  type: "InnerProduct"
  inner_product_param {
    num_output: 4096
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "fc6"
  top: "fc6"
  name: "relu6"
  type: "ReLU"
}
layer {
  bottom: "fc6"
  top: "fc6"
  name: "drop6"
  type: "Dropout"
  dropout_param {
    dropout_ratio: 0.5
  }
}
layer {
  bottom: "fc6"
  top: "fc7"
  name: "fc7"
  type: "InnerProduct"
  inner_product_param {
    num_output: 4096
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  bottom: "fc7"
  top: "fc7"
  name: "relu7"
  type: "ReLU"
}
layer {
  bottom: "fc7"
  top: "fc7"
  name: "drop7"
  type: "Dropout"
  dropout_param {
    dropout_ratio: 0.5
  }
}
layer {
  name: "fc8"
  bottom: "fc7"
  top: "fc8"
  type: "InnerProduct"
  inner_product_param {
    num_output: 1000
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
  param {
    lr_mult: 1
    decay_mult :1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
}
layer {
  name: "loss"
  type: "SoftmaxWithLoss"
  bottom: "fc8"
  bottom: "label"
  top: "loss/loss"
}
layer {
  name: "accuracy/top1"
  type: "Accuracy"
  bottom: "fc8"
  bottom: "label"
  top: "accuracy@1"
  include: { phase: TEST }
  accuracy_param {
    top_k: 1
  }
}
layer {
  name: "accuracy/top5"
  type: "Accuracy"
  bottom: "fc8"
  bottom: "label"
  top: "accuracy@5"
  include: { phase: TEST }
  accuracy_param {
    top_k: 5
  }
}

solver.prototxt

net: "models/vgg/train_val.prototxt"
test_iter: 10000
test_interval: 40000
test_initialization: false
display: 200
base_lr: 0.0001
lr_policy: "step"
stepsize: 320000
gamma: 0.96
max_iter: 10000000
momentum: 0.9
weight_decay: 0.0005
snapshot: 800000
snapshot_prefix: "models/vgg/vgg"
solver_mode: GPU

finetuning

模型太大，试了下，在GTX980的4G显存下，batchsize只能设置为8或者16这么小。。。
大模型还是得服务器并行，直接在原有的模型上finetuning

VGG_ILSVRC_16_layers_deploy.prototxt

#!/usr/bin/env sh
set -e

TOOLS=./build/tools

GLOG_logtostderr=0 GLOG_log_dir=models/vgg/Log/ \
$TOOLS/caffe train \
    --solver=models/vgg/solver.prototxt \
    --weights models/vgg/VGG_ILSVRC_16_layers.caffemodel
逍遥游07
关注
  • 3
    点赞
  • 踩
  • 26
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
深度学习入门教程二：VGG网络的搭建与训练
weixin_46524818的博客
01-22 1903
VGG模型是跨时代之作，本文对VGG论文进行简单的解读，并且对VGG16模型进行复现
《Deep Learning for Computer Vision with Python》阅读笔记-ImageNetBundle(第7章)-在ImageNet上训练VGGNet
weixin_43749999的博客
02-28 837
//2022.2.27日下午18：33开始学习笔记 7.在ImageNet上训练VGGNet 在本章中，我们将学习如何在ImageNet数据集上从零开始训练VGG16网络架构。卷积神经网络的VGG家族最早是由Simonyan和Zisserman在他们2014年的论文《用于大规模图像识别的V极深卷积网络[17]》中提出的。 该网络的特点是简单，只使用3 × 3的卷积层叠加在一起，并不断增加深度。减少卷的空间维度是通过使用最大池来实现的。两个完全连接的层，每个层有4096个节点(中间有dropou
ImageNet的下载及解压简易版本
最新发布
weixin_43903164的博客
05-05 392
官方下载 https://www.cnblogs.com/devilmaycry812839668/p/15590629.html 百度网盘+迅雷下载 链接是个种子（只要下载12年版本的，不要全下载） https://pan.baidu.com/s/1MEjNh6evha2hcdrQXjNv8w?pwd=yzza1.新建一个imagenet的文件夹，然后在这个文件夹下面新建一个train和val文件夹 2.将下载的ILSVRC2012_img_train.tar移动到train文件夹下面，并将当前工作目录设
模型训练-imagenet
weixin_42601270的博客
09-09 83
Imagenet图像分类训练总结（基于Tensorflow 2.0实现）
02-04 4664
最近看到AWS在18年年底的一篇论文（Bag of Tricks for Image Classification with Convolutional Neural Networks），是李沐和他的同事们总结的在图像分类中用到的一些技巧，可以提高分类的准确率，我也照着论文提到的技巧测试了一下，基于Tensorflow 2.1版本，搭建了一个Darknet53的模型（这也是大名鼎鼎的YOLOV3的...
【Caffe实践】如何利用Caffe训练ImageNet分类网络
热门推荐
1983的专栏
08-21 3万+
源文章：https://github.com/BVLC/caffe/tree/master/examples/imagenet 由于要使用
VGG_imagenet.part1.rar
01-19
用于faster-rcnn等网络训练的预训练模型文件VGG_imagenet.npy第一部分，下载全部3个文件后解压还原成VGG_imagenet.npy文件即可使用
VGG_imagenet.part3.rar
01-19
用于faster-rcnn等网络训练的预训练模型文件VGG_imagenet.npy第三部分，下载全部3个文件后解压还原成VGG_imagenet.npy文件即可使用
VGG_imagenet.part2.rar
01-19
用于faster-rcnn等网络训练的预训练模型文件VGG_imagenet.npy第二部分，下载全部3个文件后解压还原成VGG_imagenet.npy文件即可使用
VGG_Imagenet_Weights_GrayScale_Images:转换VGG imagenet预先训练的权重以获得灰度图像
05-15
为灰度图像转换VGG imagenet的预训练权重。 2种方法： 将图像转换为灰度，将灰度通道复制2次以使图像成为3D图像。 将VGG16的第一个卷积层的权重转换为适应灰度图像。 例如：VGG16的block1_conv1内核的尺寸：（3...
Python tensorflow keras CNN VGG16 imagenet 预训练权重 人脸识别分类
01-13
卷积神经网络 Python tensorflow keras CNN VGG16 imagenet 预训练权重 人脸识别分类 训练集测试集评估准确率 maxpolling dropout jupyter notebook numpy pandas 数据分析 数据挖掘 深度学习 机器学习 人工智能
【代码实验】CNN实验——利用Imagenet子集训练分类网络（AlexNet/ResNet）
capsule的博客
01-18 5819
Imagenet是计算机视觉的经典分类比赛，但是Imagenet数据集本身太大了，我们穷学生没有这么大的算力，2016年google DeepMind团队从Imagnet数据集中抽取的一小部分（大小约3GB）制作了Mini-Imagenet数据集（也就是Imagenet的子集），共有100个类别，每个类别都有600张图片，共60000张图片。这个大小的数据集是可以训练得动的。
利用VGG16网络模块进行迁移学习实现图像识别
xiaofeixia002X的博客
12-08 1418
利用VGG16网络模块进行迁移学习实现图像识别
VGG19模型训练+读取
weixin_34406061的博客
06-12 1730
目录 VGG-19模型简单介绍 VGG-19模型文件介绍 分析模型文件 mean值查看 Weight和Bias查看 读取代码 读取模型 训练代码 参考资料 ...
1.2 VGG训练方法概要
skywuuu的博客
12-09 1563
3 CLASSIFICATION FRAMEWORK 这个部分讲的是ConvNet分类网络训练和测试的细节。 3.1 TRAINING ConvNet的训练程序基本和AlexNet差不多。也就是说，训练是通过使用具有**动量 (momentum)**的，基于反向传播的mini-batch梯度下降来优化多项logistic regression. batch size设置为256，momentum为0.9. 这个训练是通过weight decay（L2regularizationL^2 regularizat
VGG16详细原理（含tensorflow版源码）
Code_and516的博客
03-28 4516
VGG16详细原理（含tensorflow版源码）
resnext50_32x4d-inference
慕云
06-16 629
1、导包 import os BASE_DIR = os.path.dirname(os.getcwd()) os.environ['NLS_LANG'] = 'SIMPLIFIED CHINESE_CHINA.UTF8' import sys sys.path.append(BASE_DIR) import time import json import torch import torchvision.transforms as transforms import torchvision.models
利用ImageNet上预训练的VGG19提取图像特征
zzcy202202的博客
09-14 503
(5) Conv4_1+conv4_2+con4_3+pool4: 经过三次512个的卷积核卷积之后，采用一次max pooling，有(3 * 3 * 512) * 512=2359296个训练参数，大小变为14 * 14 * 512.(6) Conv5_1+conv5_2+con5_3+pool5: 再经过三次512个的卷积核卷积之后，采用一次max pooling，有(3 * 3 * 512) * 512=2359296个训练参数，大小变为7 * 7 * 512.
ImageNet训练完整流程
SrdLaplace的博客
08-29 2万+
下载数据 训练集(138G) 验证集(6.3G-50000张) train_label.txt validation_label.txt p.s. 用迅雷下还挺快的，3天搞定 数据解压 tar xvf ILSVRC2012_img_train.tar -C ./train tar xvf ILSVRC2012_img_val.tar -C ./val 对于train数据集，...
使用Tensorflow训练vgg16的训练过程
05-28
好的，下面是使用Tensorflow训练vgg16的训练过程： 1. 准备数据集 首先需要准备好训练数据集和验证数据集，可以使用ImageNet等公共数据集，也可以使用自己的数据集。将数据集按照一定比例划分为训练集和验证集。 2. 定义模型 定义VGG16模型架构，并加载预训练的权重。可以使用TensorFlow提供的slim库，也可以手动实现模型架构。 3. 定义损失函数和优化器 定义损失函数和优化器，一般使用交叉熵损失函数和Adam优化器。 4. 开始训练模型 使用训练集进行模型训练，可以设置一些超参数如批次大小、学习率、迭代次数等。 5. 评估模型性能 使用验证集对模型进行评估，可以计算准确率、精确率、召回率等指标。 6. 调整模型超参数 根据评估结果，可以调整模型的超参数，再进行训练和评估。 7. 保存模型 保存训练好的模型，以备后续使用。 以上就是使用TensorFlow训练vgg16的训练过程。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值