TensorflowAPI的使用以及 使用自己的数据集进行目标检测
一:下载对应的模型
模型下载地址:
上网自行搜索COCO-trained models {#coco-models}选择对应的模型
在这里我下载使用的是 faster_rcnn_inception_v2_coco_2018_01_28.tar.gz
并将faster_rcnn_inception_v2_coco_2018_01_28文件夹解压缩至C:\ tensorflow1 \ models \ research \ object_detection文件夹。
(注意:型号日期和版本将来可能会更改,但仍可在本教程中使用。)
见上图,第一列是模型名字,第二列是速度,第三列是精度。这里需要注意几点:
1、Model name上的名字与代码中“MODEL_NAME”后面变量的名字不一样,可以发现后者还有日期,在写代码的时候需要像后者那样将名字写完整,想得到完整的名字,可以直接在网站上点击对应的模型,弹出“另存为”对话框时就能够发现完整的“MODEL_NAME”,如下图所示。
2、列表中速度快的模型,一般自己训练也会快,但是精度高的不一定使用自己的数据集时精度也高,因为训练的数据集及模型参数可能本身就存在差异,建议先用Demo中的‘ssd_mobilenet_v1_coco_2017_11_17’,速度最快。
打开\ tensorflow1 \ models \ research \ object_detection \ samples \ configs,然后将fast_rcnn_inception_v2_pets.config文件复制到\ object_detection \ training目录。(training文件夹是自己在这个路径下进行创建的)
然后,使用文本编辑器打开文件。.config文件需要进行几处更改,主要是更改类和示例的数量,以及将文件路径添加到训练数据中。
对faster_rcnn_inception_v2_pets.config文件进行以下更改。
注意:必须使用单个正斜杠(非反斜杠)输入路径,否则在尝试训练模型时,TensorFlow将给出文件路径错误!此外,路径必须用双引号(“)而不是单引号(’)。
二:设置目标检测的文件夹
拥有所需的所有图片之后,将其中的20%移至\ object_detection \ images \ test目录,然后将其80%移至\ object_detection \ images \ train目录。确保\ test和\ train目录中都有各种图片。
可以将自己目标检测的数据文件存放在任意目录,自己能找到即可,我存放的目录如图所示
生成自己数据集的方式,参考链接:
参考链接
我的目录结构如图所示:
1.其中,tv_sofa.pbtxt是自己根据自己的标签进行新建了一个txt文件,并且改了文件的后缀名得到的
我的格式如下:
item {
id: 1
name: 'TV'
}
item {
id: 2
name: 'sofa'
}
2.关于图片标记是用labelImg工具生成的,这个文件只会生成对应的xml文件,如果想通过xml文件得到我们训练的数据格式,还需要通过以下代码得到
我们需要将xml文件生成csv文件(中间文件)再生成TFRecord文件,得到我们想要的训练集
# -*- coding: utf-8 -*-
"""
Created on Tue Jan 16 00:52:02 2018
@author: Xiang Guo
将文件夹内所有XML文件的信息记录到CSV文件中
"""
import os
import glob
import pandas as pd
import xml.etree.ElementTree as ET
os.chdir('D:\\test\\test_images\\frame2')
path = 'D:\\test\\test_images\\frame2'
def xml_to_csv(path):
xml_list = []
for xml_file in glob.glob(path + '/*.xml'):
tree = ET.parse(xml_file)
root = tree.getroot()
for member in root.findall('object'):
value = (root.find('filename').text,
int(root.find('size')[0].text),
int(root.find('size')[1].text),
member[0].text,
int(member[4][0].text),
int(member[4][1].text),
int(member[4][2].text),
int(member[4][3].text)
)
xml_list.append(value)
column_name = ['filename', 'width', 'height', 'class', 'xmin', 'ymin', 'xmax', 'ymax']
xml_df = pd.DataFrame(xml_list, columns=column_name)
return xml_df
def main():
image_path = path
xml_df = xml_to_csv(image_path)
xml_df.to_csv('tv_vehicle_labels.csv', index=None)
print('Successfully converted xml to csv.')
main()
# -*- coding: utf-8 -*-
"""
Created on Tue Jan 16 01:04:55 2018
@author: Xiang Guo
由CSV文件生成TFRecord文件
"""
"""
Usage:
# From tensorflow/models/
# Create train data:
python generate_tfrecord.py --csv_input=data/tv_vehicle_labels.csv --output_path=train.record
# Create test data:
python generate_tfrecord.py --csv_input=data/test_labels.csv --output_path=test.record
"""
import os
import io
import pandas as pd
import tensorflow as tf
from PIL import Image
from object_detection.utils import dataset_util
from collections import namedtuple, OrderedDict
os.chdir('D:\\tensorflow-model\\models\\research\\object_detection\\')
flags = tf.app.flags
flags.DEFINE_string('csv_input', '', 'Path to the CSV input')
flags.DEFINE_string('output_path', '', 'Path to output TFRecord')
FLAGS = flags.FLAGS
# TO-DO replace this with label map
#注意将对应的label改成自己的类别!!!!!!!!!!
def class_text_to_int(row_label):
if row_label == 'tv':
return 1
elif row_label == 'vehicle':
return 2
else:
None
def split(df, group):
data = namedtuple('data', ['filename', 'object'])
gb = df.groupby(group)
return [data(filename, gb.get_group(x)) for filename, x in zip(gb.groups.keys(), gb.groups)]
def create_tf_example(group, path):
with tf.gfile.GFile(os.path.join(path, '{}'.format(group.filename)), 'rb') as fid:
encoded_jpg = fid.read()
encoded_jpg_io = io.BytesIO(encoded_jpg)
image = Image.open(encoded_jpg_io)
width, height = image.size
filename = group.filename.encode('utf8')
image_format = b'jpg'
xmins = []
xmaxs = []
ymins = []
ymaxs = []
classes_text = []
classes = []
for index, row in group.object.iterrows():
xmins.append(row['xmin'] / width)
xmaxs.append(row['xmax'] / width)
ymins.append(row['ymin'] / height)
ymaxs.append(row['ymax'] / height)
classes_text.append(row['class'].encode('utf8'))
classes.append(class_text_to_int(row['class']))
tf_example = tf.train.Example(features=tf.train.Features(feature={
'image/height': dataset_util.int64_feature(height),
'image/width': dataset_util.int64_feature(width),
'image/filename': dataset_util.bytes_feature(filename),
'image/source_id': dataset_util.bytes_feature(filename),
'image/encoded': dataset_util.bytes_feature(encoded_jpg),
'image/format': dataset_util.bytes_feature(image_format),
'image/object/bbox/xmin': dataset_util.float_list_feature(xmins),
'image/object/bbox/xmax': dataset_util.float_list_feature(xmaxs),
'image/object/bbox/ymin': dataset_util.float_list_feature(ymins),
'image/object/bbox/ymax': dataset_util.float_list_feature(ymaxs),
'image/object/class/text': dataset_util.bytes_list_feature(classes_text),
'image/object/class/label': dataset_util.int64_list_feature(classes),
}))
return tf_example
def main(_):
writer = tf.python_io.TFRecordWriter(FLAGS.output_path)
path = os.path.join(os.getcwd(), 'images')
examples = pd.read_csv(FLAGS.csv_input)
grouped = split(examples, 'filename')
for group in grouped:
tf_example = create_tf_example(group, path)
writer.write(tf_example.SerializeToString())
writer.close()
output_path = os.path.join(os.getcwd(), FLAGS.output_path)
print('Successfully created the TFRecords: {}'.format(output_path))
if __name__ == '__main__':
tf.app.run()
对于训练集与测试集分别运行上述代码即可,得到train.record与test.record文件。
三:分析代码结构:
打开object_detection文件夹中的 object_detection_tutorial.ipynb ,分析代码结构。
第一部分Imports导入需要的包,不需要做更改。
第二部分Env setup 设置系统环境,不必更改。
第三部分
Object detection imports 导入Object detection 需要的模块,如果报错,说明工作目录设置不对,或者…/research以及…/research/slim 的环境变量没有设置好。
第四部分为设置模型的对应参数。 需要修改
第五部分Download Model 为下载模型,通过向对应网站发送请求进行下载解压操作。
第六部分Load a (frozen) Tensorflow model into memory 将训练完的模型载入内存,第六部分Loading label map将标签map载入。
这几个部分都不用修改,直接复制即可。