Google版EfficientDet训练自己的数据集

Ubuntu 20.04，cuda10.1，TensorFlow2.1.0，python3.6.9环境，使用Google版efficientDet训练自己的数据集，预测图片，并将结果写入txt

---

0.项目地址

https://github.com/google/automl/tree/master/efficientdet

---

1.项目部署

使用docker部署环境

Ubuntu 20.04，使用TensorFlow官方提供的docker镜像部署

拉取镜像

docker pull tensorflow/tensorflow:2.1.0-gpu-py3

包含cuda10.1，TensorFlow2.1.0，python3.6.9

拉取镜像后建立容器，设置使用宿主机的gpu，并挂载目录

docker run -it  --gpus all  -v 宿主机目录:容器中的目录 tensorflow/tensorflow:2.1.0-gpu-py3  /bin/bash

下载代码

git clone https://github.com/google/automl.git

安装依赖

项目github页面中写通过pip install -r requirements.txt安装依赖，但博主安装似乎出了点问题，于是手动pip install其中的python依赖包：

absl-py>=0.7.1
matplotlib>=3.0.3
numpy>=1.16.4
Pillow>=6.0.0
PyYAML>=5.1
six>=1.12.0
tensorflow>=2.1.0
tensorflow-addons>=0.9.1
tensorflow-probability>=0.9.0

以及安装coco api的python分支：
安装coco api（https://github.com/cocodataset/cocoapi），在当前环境下编译，并将编译后PythonAPI文件夹中的内容（pycocotools等）拷贝至efficientdet目录下
目录结构为automl-master/efficientdet/pycocotools

---

2.数据集准备

VOC2007格式数据集

数据集制作成VOC2007格式，目录结构如下
放在efficientdet目录下，目录结构为automl-master/efficientdet/VOCdevkit2007

数据集转换为tfrecord格式

*制作tfrecord格式的数据集前，先在dataset/create_pascal_tfrecord.py中，将pascal_label_map_dict修改为自己的类名

制作tfrecord格式数据集

PYTHONPATH=".:$PYTHONPATH"  python dataset/create_pascal_tfrecord.py \
--data_dir=VOCdevkit2007 \
--year=VOC2007  \
--output_path=mytfrecord/pascal  \
--set=trainval

制作完成后，在文件夹下生成100个tfrecord文件和1个json文件

---

3.预训练模型准备

下载预训练模型，解压到efficientdet目录下
博主使用efficientdet-d2模型，目录结构形如automl-master/efficientdet/efficientdet-d2

---

4.训练

训练

python main.py \
--mode=train_and_eval \
--training_file_pattern=mytfrecord/*.tfrecord \
--validation_file_pattern=mytfrecord/*.tfrecord \
--val_json_file=mytfrecord/json_pascal.json \
--model_name=efficientdet-d2 \
--model_dir=tmp/efficientdet-d2  \
--ckpt=efficientdet-d2  \
--train_batch_size=4 \
--eval_batch_size=1 \
--eval_samples=512 \
--hparams="num_classes=3 " 

其中num_classes为自己数据集的类数+1，model_name等根据自己使用的模型修改
训练生成的模型存放在automl-master/efficientdet/tmp/efficientdet-d2下

---

5.预测

计算AP

制作test集的tfrecord文件
生成的文件在mytfrecord_test文件夹下

PYTHONPATH=".:$PYTHONPATH"  python dataset/create_pascal_tfrecord.py \
--data_dir=VOCdevkit2007 \
--year=VOC2007  \
--output_path=mytfrecord_test/pascal  \
--set=test 

计算AP

python main.py --mode=eval  \
--model_name=efficientdet-d2   --model_dir=tmp/efficientdet-d2  \
--validation_file_pattern=mytfrecord_test/pascal*  \
--testdev_dir='testdev_output'  \
--hparams="num_classes=3 " 

num_classes为自己数据集类数+1

预测自己的图片

*预测前，先将inference.py中的coco_id_mapping修改为自己数据集的类名
预测

python model_inspect.py \
--runmode=infer \
--model_name=efficientdet-d2 \
--max_boxes_to_draw=100  \
--min_score_thresh=0.7  \
--ckpt_path=tmp/efficientdet-d2  \
--input_image=VOCdevkit2007/demo/*.jpg \
--output_image_dir=res_img \
--hparams="num_classes=3 "

其中input_image为待检测图片存放路径，output_image_dir为检测结果图片输出路径，num_classes为自己数据集类数+1

远程查看tensorboard

cd至tmp/efficientdet-d2目录下
打开tensorboard

tensorboard  --logdir=. --port=6006

由于博主是在远程服务器上训练，要在本地查看远程服务器上的tensorboard，可以在Xshell中进行如下的ssh隧道设置

设置后，重新连接并启动tensorboard，即可在本地浏览器用http://127.0.1.1:6006/访问服务器上的tensorboard

预测结果写入txt

百度网盘链接：https://pan.baidu.com/s/1NjjIr9n63n65enF5rTWhZA
提取码：icgg
↑提供博主修改的一个可以将检测结果按类别写入txt的inference.py文件，写入的格式为每一行：文件名 置信度 xmin ymin xmax ymax
如：000174 0.967 278 337 327 358
使用时直接替换原inference.py，并将coco_id_mapping修改为自己数据集的类名，使用和上面相同的预测命令可以同时输出预测后的图片和txt
输出的txt存放在efficientdet目录下，文件名为类别

---

6.可能出现的问题

1）预测时，出现形如这样的错误↓

tensorflow.python.framework.errors_impl.InvalidArgumentError: 2 root error(s) found.
  (0) Invalid argument: Input to reshape is a tensor with 884736 values, but the requested shape requires a multiple of 90
	 [[{{node Reshape}}]]
	 [[cond_88/while/Identity/_7860]]
  (1) Invalid argument: Input to reshape is a tensor with 884736 values, but the requested shape requires a multiple of 90
	 [[{{node Reshape}}]]
0 successful operations.
0 derived errors ignored.

在issues218中翻到类似问题，说是在预测时加上参数--enable_ema=False解决，但尝试后发现目前版本（2020.08.04）的代码中没有这个参数，于是加上--hparams="num_classes=自己数据集的类别数+1 "，发现可以解决问题

2）计算ap时，出现形如这样的错误（issues552）↓

 Invalid argument: Incompatible shapes: [32,810,128,128] vs. [32,9,128,128] 

也可以尝试通过指定num_classes解决

---

参考链接
https://blog.csdn.net/jy1023408440/article/details/105638482