Deeplab训练自己的数据集

最新推荐文章于 2023-07-24 16:06:19 发布
最新推荐文章于 2023-07-24 16:06:19 发布
阅读量2k 收藏 13
点赞数 2
分类专栏： 语义分割
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lucifer_24/article/details/88720098
版权

1.制作自己的数据集

1.1 用labelme生成json文件

lebelme安装:

# Ubuntu 14.04 / Ubuntu 16.04
# Python2
# sudo apt-get install python-qt4  # PyQt4
sudo apt-get install python-pyqt5  # PyQt5
sudo pip install labelme
# Python3
sudo apt-get install python3-pyqt5  # PyQt5
sudo pip3 install labelme

1.2 把json文件生成.png文件：

  1. 调整label.png为灰度图
  2. 批量转换成_gt.png
  3. 提取出所有的_gt.png文件

参考：https://note.youdao.com/ynoteshare1/index.html?id=032620eac64634508cd4f9e65be4617c&type=note#/

要把下面这两句话注释掉，因为会报错，生成的可视化分割图片也没什么软用

lbl_viz = utils.draw.draw_label(lbl, img, captions)
 ...
PIL.Image.fromarray(lbl_viz).save(osp.join(out_dir,'{}_viz.png'.format(filename)))

1.3 数据集目录

 + image
 + mask
 + index 
    - train.txt 
    - trainval.txt 
    - val.txt 
 + tfrecord
  • iamge中存放所有的输入图片，包括训练、测试、验证集的图片
  • mask中存放所有的labeled图片，，和输入图片（即iamge）是一一对应的

PS：这里需要注意一个点，image和mask的文件名应该一致，且全部小写，上一步产生的iamge后缀大写，用 rename ‘y/A-Z/a-z/’ * 修改，，mask文件名是000000_gt.png，用 rename ‘s/_gt.png/.png/’ ./* 修改，这样image和mska的文件名就能对应。对应代码如下：

rename   's/\_gt.png/.png/' ./*  #修改后缀

rename 'y/A-Z/a-z/' *   #全部小写
  • index

该目录下包含三个.txt文件：

train.txt：所有训练集的文件名称
trainval.txt：所有验证集的文件名称
val.txt：所有测试集的文件名称
生成这三个数据集的代码：

# -*- coding: utf-8 -*-
import os
import random

xmlfilepath = 'image'   #注意这里是image而非mask
txtsavepath = 'index'
total_xml = os.listdir(xmlfilepath)
num=len(total_xml)
list = range(num)
trainval = random.sample(list, num)  

os.chdir('PATH/index')   

ftrainval = open('train.txt', 'w')  

for i in list :
    name =total_xml[i][:-4] + '\n'
    ftrainval.write(name)
ftrainval.close()

1.4 生成tfrecord

用生成voc数据集的build_voc2012_data.py来生成

  • image_folder ：数据集中原输入数据的文件目录地址
  • semantic_segmentation_folder：数据集中标签的文件目录地址
  • list_folder : 将数据集分类成训练集、验证集等的指示目录文件目录
  • image_format : 输入图片数据的格式，我的数据集是jpg格式
  • output_dir：制作的TFRecord存放的目录地址(自己创建)
python ./datasets/build_voc2012_data.py \ --image_folder="/home/zyr/deeplab/models/research/deeplab/datasets/my_data/segment/image" \ 
--semantic_segmentation_folder="/home/zyr/deeplab/models/research/deeplab/datasets/my_data/segment/mask" \ 
--list_folder="/home/zyr/deeplab/models/research/deeplab/datasets/my_data/segment/index" \ 
--image_format="jpg" \ 
--output_dir="/home/zyr/deeplab/models/research/deeplab/datasets/my_data/segment/tfrecord"

2.训练前代码准备

2.1. 修改segmentation_dataset.py

大约在line 100左右，添加如下代码（注意num_classes=num（ label+1 ），+1是background类别，没有用ignore label（我也不知道是啥））：

_LAB_DATASET = DatasetDescriptor(
    splits_to_sizes={
        'train': 150,   # num of samples in images/training
        #'train_aug': 10582,
        'trainval': 250,
        'val': 100,
    },
    num_classes=4,   #label+1 （not use ignore label）
    ignore_label=255,
)

大约在line 112,添加对应数据集的名称：

_DATASETS_INFORMATION = {
    'cityscapes': _CITYSCAPES_INFORMATION,
    'pascal_voc_seg': _PASCAL_VOC_SEG_INFORMATION,
    'ade20k': _ADE20K_INFORMATION,
    'lab': _LAB_DATASET,
}

2.2. 修改train_utils.py

大约在line 109，exclude_list的设置修改，作用是在使用预训练权重时候，不加载该logit层：

  # Variables that will not be restored.
  #exclude_list = ['global_step','logits']
  exclude_list = ['global_step']
  if not initialize_last_layer:
    exclude_list.extend(last_layers)

2.3. 数据不平衡问题

在train_utils.py的70行修改权重。但是我的数据集比较均衡，所以没用用到。

2.4. 修改train .py

    initialize_last_layer=False
    last_layers_contain_logits_only=True

3.开始训练

官方给出的指令格式：

python deeplab/train.py \
    --logtostderr \
    --training_number_of_steps=90000 \
    --train_split="train" \
    --model_variant="xception_65" \
    --atrous_rates=6 \
    --atrous_rates=12 \
    --atrous_rates=18 \
    --output_stride=16 \
    --decoder_output_stride=4 \
    --train_crop_size=769 \
    --train_crop_size=769 \
    --train_batch_size=1 \
    --dataset="cityscapes" \
    --tf_initial_checkpoint=${PATH_TO_INITIAL_CHECKPOINT} \
    --train_logdir=${PATH_TO_TRAIN_DIR} \
    --dataset_dir=${PATH_TO_DATASET}

training_number_of_steps： 训练迭代次数
train_crop_size：训练图片的裁剪大小，我将这个设置为513
tf_initial_checkpoint：预训练的权重，使用CityScapes的预训练权重
train_logdir:训练产生的文件存放位置
train_batch_size:训练的batchsize，这里batchsize设置为4，如果想复现paper效果，建议设置8
dataset_dir:数据集的TFRecord文件
dataset：设置为在segmentation_dataset.py文件设置的数据集名称
如果显存小的话把fine_tune_batch_norm调成False
训练集150张图片，迭代30000次，验证集100张图片

下面是我自己的训练命令：

python ./train02.py \
    --logtostderr \
    --training_number_of_steps=30000 \
    --train_split="train" \
    --model_variant="xception_65" \
    --fine_tune_batch_norm=False \
    --atrous_rates=6 \
    --atrous_rates=12 \
    --atrous_rates=18 \
    --output_stride=16 \
    --decoder_output_stride=4 \
    --train_crop_size=513 \
    --train_crop_size=513 \
    --train_batch_size=4 \
    --dataset="lab" \
    --tf_initial_checkpoint='/home/zyr/deeplab/models/research/deeplab/backbone/deeplabv3_cityscapes_train/model.ckpt' \
    --train_logdir='/home/zyr/deeplab/models/research/deeplab/datasets/my_data/exp/train_on_train_set/train' \
    --dataset_dir='/home/zyr/deeplab/models/research/deeplab/datasets/my_data/segment/tfrecord'

4.验证并可视化

4.1 eval

eval指令分析:

前面我们训练了一些模型，下面测试一下。

官方给出的验证指令格式为：

#From tensorflow/models/research/
python deeplab/eval.py \
    --logtostderr \
    --eval_split="val" \
    --model_variant="xception_65" \
    --atrous_rates=6 \
    --atrous_rates=12 \
    --atrous_rates=18 \
    --output_stride=16 \
    --decoder_output_stride=4 \
    --eval_crop_size=1025 \
    --eval_crop_size=2049 \
    --dataset="cityscapes" \
    --checkpoint_dir=${PATH_TO_CHECKPOINT} \
    --eval_logdir=${PATH_TO_EVAL_DIR} \
    --dataset_dir=${PATH_TO_DATASET}

这里参考调试指令参考local_test.sh，其中有几个比较关键的参数设置如下：

eval_crop_size：验证图片的裁剪大小
checkpoint_dir：预训练的checkpoint，这里设置的即是前面训练模型存储的地址
eval_logdir: 保存验证结果的目录，注意在开始的创建工程目录的时候就创建了
dataset_dir:数据集的地址，前面创建的TFRecords目录

eval实际调用指令

python ./eval.py \
    --logtostderr \
    --eval_split="val" \
    --model_variant="xception_65" \
    --atrous_rates=6 \
    --atrous_rates=12 \
    --atrous_rates=18 \
    --output_stride=16 \
    --decoder_output_stride=4 \
    --eval_crop_size=1080 \
    --eval_crop_size=1920 \
    --dataset="lab" \
    --checkpoint_dir='/home/zyr/deeplab/models/research/deeplab/datasets/my_data/exp/train_on_train_set/train/' \
    --eval_logdir='/home/zyr/deeplab/models/research/deeplab/datasets/my_data/exp/train_on_train_set/val/' \
    --dataset_dir='/home/zyr/deeplab/models/research/deeplab/datasets/my_data/segment/tfrecord/'

结果如下：

总共val了100张图片

在这里插入图片描述

可见miou能达到0.78

4.2.vis

vis指令分析

# From tensorflow/models/research/
python deeplab/vis.py \
    --logtostderr \
    --vis_split="val" \
    --model_variant="xception_65" \
    --atrous_rates=6 \
    --atrous_rates=12 \
    --atrous_rates=18 \
    --output_stride=16 \
    --decoder_output_stride=4 \
    --vis_crop_size=1025 \
    --vis_crop_size=2049 \
    --dataset="cityscapes" \
    --colormap_type="cityscapes" \
    --checkpoint_dir=${PATH_TO_CHECKPOINT} \
    --vis_logdir=${PATH_TO_VIS_DIR} \
    --dataset_dir=${PATH_TO_DATASET}

这里参考调试指令参考local_test.sh，其中有几个比较关键的参数设置如下：

vis_crop_size：图片的裁剪大小
checkpoint_dir：预训练的checkpoint，这里设置的即是前面训练模型存储的地址

vis_logdir: 保存可视化结果的目录

dataset_dir:数据集的地址，前面创建的TFRecords目录

vis实际调用指令

#!/usr/bin/env bash

python ./vis.py \
    --logtostderr \
    --vis_split="val" \
    --model_variant="xception_65" \
    --atrous_rates=6 \
    --atrous_rates=12 \
    --atrous_rates=18 \
    --output_stride=16 \
    --decoder_output_stride=4 \
    --vis_crop_size=1080 \
    --vis_crop_size=1920 \
    --dataset="lab" \
    --colormap_type="pascal" \
    --checkpoint_dir='/home/zyr/deeplab/models/research/deeplab/datasets/my_data/exp/train_on_train_set/train/model.ckpt-30000' \
    --vis_logdir='/home/zyr/deeplab/models/research/deeplab/datasets/my_data/exp/train_on_train_set/vis/' \
    --dataset_dir='/home/zyr/deeplab/models/research/deeplab/datasets/my_data/segment/tfrecord/'

部分结果图：

在这里插入图片描述
在这里插入图片描述

阿飞大魔王
关注
  • 2
    点赞
  • 踩
  • 13
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
DeeplabV3 制作自己数据集，遇到的问题
lovetobelove的博客
10-18 986
1、deeplabv3+训练自己数据时，转换tfrecord格式出现问题。一直没有train.txt的转换结果。 结果出现./pascal_voc_seg/VOCdevkit/mydata/JPEGImages/.jpg; No such file or directory 错误。 后来发现是train.txt文件下最后有两行空格。删掉后重新执行程序即可转换完成。 2、...
DeepLab V3+ 训练自己的数据-附件资源
03-05
DeepLab V3+ 训练自己的数据-附件资源
DeepLabv3+图像语义分割实战：训练自己的数据集
07-10
DeepLabv3+是一种非常先进的基于深度学习的图像语义分割方法，可对物体进行像素级分割。 本课程将手把手地教大家使用labelme图像标注工具制作数据集，并使用DeepLabv3+训练自己的数据集，从而能开展自己的图像语义分割应用。 本课程有两个项目实践： (1) CamVid语义分割 ：对CamVid数据集进行语义分割 (2) RoadScene语义分割：对汽车行驶场景中的路坑、车、车道线进行物体标注和语义分割 本课程使用TensorFlow版本的DeepLabv3+，在Ubuntu系统上做项目演示。 包括：安装deeplab、数据集标注、数据集格式转换、修改程序文件、训练自己的数据集、测试训练出的网络模型以及性能评估。 本课程提供项目的数据集和Python程序文件。 下图是使用DeepLabv3+训练自己的数据集RoadScene进行图像语义分割的测试结果：
从零开始使用Deeplabv3plus训练自己的数据集
北屿的博客
07-24 3227
2、测试原代码并没有测试代码，这里先放一个简单的demo，日后再补充。
用deeplab-v3训练自己的数据集
zunzunle的博客
06-07 1686
ImageSets目录内单放一个Segmentation文件夹，然后Segmentation目录下需要制作3个txt文件：train.txt，train.txt，val.txt 用来表示训练集，验证集，测试集的划分信息。搜素def get_cityscapes_labels()函数，然后在上方添加自己数据集的函数，例如get_grass_labels().在第一行添加数据集名称，复制’pascal’数据集描述，把名称修改为自己数据集的名字。然后打开自己的数据集py文件，修改文件内的类别数和数据集名称。
TF学习之DeepLabv3+代码阅读6（train_utils）
lscelory的博客
08-02 1177
DeepLabv3+代码阅读之train_utils.py 一、get_model_learning_rate() def get_model_learning_rate(learning_policy,# Learning rate policy for training. base_learning_rate,# The base lea...
TensorFlow之DeepLabv3+训练自己的数据集
ZONGXP的博客
10-24 5394
0 背景 在之前的文章中，对tensorflow目标检测API进行了详细的测试，成功应用其模型做简单的检测任务。本文对另一模块DeepLab的API进行测试，实现语义分割。经过了好几天的吐血折腾，终于将该模块调通，其中的bug真是数不胜数…… 首先简单介绍下系统环境的配置 conda create -n deeplab python=3.6 source activate deeplab ...
用卷积滤波器matlab代码-train-DeepLab:训练DeepLab进行语义图像分割
05-21
用卷积滤波器matlab代码训练DeepLab进行语义图像分割 马丁·科斯纳（Martin Kersner）， 该存储库包含用于使用和进行培训的脚本。 和论文分别描述了使用强注释数据和弱注释数据的训练过程。 git clone --recursive ...
pytorch-deeplab-xception:PyTorch中的DeepLab v3 +模型。 支持不同的骨干网
05-10
pytorch-deeplab-xception 于2018/12/06更新。 提供在VOC和SBD数据集上训练的模型。 于2018/11/24更新。... 目前，我们使用Pascal VOC 2012，SBD和Cityscapes数据集训练DeepLab V3 Plus。 安装 该代
deeplab_v3：语义分段的Tensorflow实现DeepLab_V3 CNN
02-05
用于训练的原始数据集。 数据集 将tfrecords文件放在./dataset/tfrecords 。 如果文件夹不存在，请创建它。 培训与评估 获得培训和验证TfRefords文件后，只需运行以下命令。 运行Deeplab_v3之前，代码将寻找合适的...
deeplabv3+——训练自己的数据集 torch1.12.0 cuda11.3
coral_55u的博客
09-01 2310
cuda==11.3tips：30系显卡最好还是用配套的cuda，博主原本使用的cuda10.0版本，一直报错很坑。
【pytorch】从零开始用语义分割网络(deeplab3+)训练自己的数据集
sazass的博客
10-11 9759
语义分割(deeplab3+)训练自己数据集
ckpt下载 deeplabv3_Ubantu下 用deeplabV3+训练自己的数据集 你可能遇到的所有坑都在这了...
weixin_29777019的博客
12-30 473
1.安装环境 一定要注意版本问题因为版本对不上，花了好多时间猜正确的版本。系统：Ubantu16.04nvidia驱动版本 410.78python 版本 3.5.2tensorflow-gpu版本 1.14.0CUDA ： 10.0cudnn: 7.6.5labelme 3.92.安装deeplabV3+项目下载后解压 下载解压的文件夹名字叫 /models-master，为了方便，我改了名字为...
工程（二）——DeeplabV3+语义分割训练自制数据集
HUASHUDEYANJING的博客
04-04 7345
目录 1、配置环境 1.1 利用conda新建一个环境并激活 1.2 安装pytorch 1.3 更新bashrc环境 2、安装DeeplabV3 2.1 克隆代码 2.2 下载数据集和预训练模型 3、测试算法 4、制作VOC数据集 4.1 转VOC格式 4.2 项目数据准备 5、训练验证数据集 5.1 visdom可视化 5.2 训练网络 5.3 验证模型 1、配置环境 1.1 利用conda新建一个环境并激活 conda create -n deeplabv3.
【实验记录】DeepLabv3+ 训练&测试
学习 & 分享 ~
11-14 9695
Code：TensorFlow Models DeepLab：models/research/deeplab/ Tutorial：Installation Model Zoo：Model Zoo训练参考： DeepLab on PASCAL VOC 2012 DeepLab on Cityscapes 官方FAQGPU：2080Ti CUDA 9.0 CUDNN 7.0.5 Python 3.6 Tensorflow-gpu 1.12.0======================= 安装过程 ======
DeepLabv3+（PyTorch）图像语义分割：训练自己的数据集
12-06
DeepLabv3+是一种非常先进的基于深度学习的图像语义分割方法，可对物体进行像素级分割。 本课程将手把手地教大家使用labelme图像标注工具制作数据集，并使用PyTorch版本的DeepLabv3+训练自己的数据集，从而能开展自己的图像语义分割应用。 本课程以RoadScene语义分割开展项目实践：对汽车行驶场景中的路坑、车、车道线进行物体标注和语义分割。 本课程使用Pytorch版本的DeepLabv3+，在Ubuntu系统上做项目演示。 包括：安装PyTorch和deeplabv3+、数据集标注、数据集格式转换、训练自己的数据集、测试训练出的网络模型以及性能评估。本课程提供项目的数据集和Python程序文件。 相关课程：DeepLabv3+图像语义分割实战：训练自己的数据集（TensorFlow）https://edu.csdn.net/course/detail/25328
deeplab 医学心脏视频数据集分割建模
最新发布
09-20
DeepLab是一种用于图像和视频分割的深度学习模型，而医学心脏视频数据集分割建模是利用DeepLab模型对医学心脏视频数据进行分割和建模的过程。 医学心脏视频数据集是通过医学设备获取的一系列心脏图像或视频帧的集合...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值