TensorflowAPI的使用以及 使用自己的数据集进行目标检测

TensorflowAPI的使用以及 使用自己的数据集进行目标检测

参考链接：
中文： 中文参考链接
英文：英文参考链接

一：下载对应的模型

模型下载地址：
上网自行搜索COCO-trained models {#coco-models}选择对应的模型
在这里我下载使用的是 faster_rcnn_inception_v2_coco_2018_01_28.tar.gz

并将faster_rcnn_inception_v2_coco_2018_01_28文件夹解压缩至C：\ tensorflow1 \ models \ research \ object_detection文件夹。
（注意：型号日期和版本将来可能会更改，但仍可在本教程中使用。）

见上图，第一列是模型名字，第二列是速度，第三列是精度。这里需要注意几点：
1、Model name上的名字与代码中“MODEL_NAME”后面变量的名字不一样，可以发现后者还有日期，在写代码的时候需要像后者那样将名字写完整，想得到完整的名字，可以直接在网站上点击对应的模型，弹出“另存为”对话框时就能够发现完整的“MODEL_NAME”，如下图所示。
2、列表中速度快的模型，一般自己训练也会快，但是精度高的不一定使用自己的数据集时精度也高，因为训练的数据集及模型参数可能本身就存在差异，建议先用Demo中的‘ssd_mobilenet_v1_coco_2017_11_17’，速度最快。

打开\ tensorflow1 \ models \ research \ object_detection \ samples \ configs，然后将fast_rcnn_inception_v2_pets.config文件复制到\ object_detection \ training目录。(training文件夹是自己在这个路径下进行创建的)

然后，使用文本编辑器打开文件。.config文件需要进行几处更改，主要是更改类和示例的数量，以及将文件路径添加到训练数据中。
对faster_rcnn_inception_v2_pets.config文件进行以下更改。
注意：必须使用单个正斜杠（非反斜杠）输入路径，否则在尝试训练模型时，TensorFlow将给出文件路径错误！此外，路径必须用双引号（“）而不是单引号（’）。

二：设置目标检测的文件夹

拥有所需的所有图片之后，将其中的20％移至\ object_detection \ images \ test目录，然后将其80％移至\ object_detection \ images \ train目录。确保\ test和\ train目录中都有各种图片。
可以将自己目标检测的数据文件存放在任意目录，自己能找到即可，我存放的目录如图所示
生成自己数据集的方式，参考链接：
参考链接

我的目录结构如图所示：

1.其中，tv_sofa.pbtxt是自己根据自己的标签进行新建了一个txt文件，并且改了文件的后缀名得到的
我的格式如下：

item {
  id: 1
  name: 'TV'
}


item {
  id: 2
  name: 'sofa'
}

2.关于图片标记是用labelImg工具生成的，这个文件只会生成对应的xml文件，如果想通过xml文件得到我们训练的数据格式，还需要通过以下代码得到
我们需要将xml文件生成csv文件(中间文件)再生成TFRecord文件，得到我们想要的训练集

# -*- coding: utf-8 -*-
"""
Created on Tue Jan 16 00:52:02 2018
@author: Xiang Guo
将文件夹内所有XML文件的信息记录到CSV文件中
"""
import os
import glob
import pandas as pd
import xml.etree.ElementTree as ET
os.chdir('D:\\test\\test_images\\frame2')
path = 'D:\\test\\test_images\\frame2'
def xml_to_csv(path):
    xml_list = []
    for xml_file in glob.glob(path + '/*.xml'):
        tree = ET.parse(xml_file)
        root = tree.getroot()
        for member in root.findall('object'):
            value = (root.find('filename').text,
                     int(root.find('size')[0].text),
                     int(root.find('size')[1].text),
                     member[0].text,
                     int(member[4][0].text),
                     int(member[4][1].text),
                     int(member[4][2].text),
                     int(member[4][3].text)
                     )
            xml_list.append(value)
    column_name = ['filename', 'width', 'height', 'class', 'xmin', 'ymin', 'xmax', 'ymax']
    xml_df = pd.DataFrame(xml_list, columns=column_name)
    return xml_df
def main():
    image_path = path
    xml_df = xml_to_csv(image_path)
    xml_df.to_csv('tv_vehicle_labels.csv', index=None)
    print('Successfully converted xml to csv.')
main()

# -*- coding: utf-8 -*-
"""
Created on Tue Jan 16 01:04:55 2018
@author: Xiang Guo
由CSV文件生成TFRecord文件
"""
"""
Usage:
  # From tensorflow/models/
  # Create train data:
  python generate_tfrecord.py --csv_input=data/tv_vehicle_labels.csv  --output_path=train.record
  # Create test data:
  python generate_tfrecord.py --csv_input=data/test_labels.csv  --output_path=test.record
"""
import os
import io
import pandas as pd
import tensorflow as tf
from PIL import Image
from object_detection.utils import dataset_util
from collections import namedtuple, OrderedDict
os.chdir('D:\\tensorflow-model\\models\\research\\object_detection\\')
flags = tf.app.flags
flags.DEFINE_string('csv_input', '', 'Path to the CSV input')
flags.DEFINE_string('output_path', '', 'Path to output TFRecord')
FLAGS = flags.FLAGS
# TO-DO replace this with label map
#注意将对应的label改成自己的类别！！！！！！！！！！
def class_text_to_int(row_label):
    if row_label == 'tv':
        return 1
    elif row_label == 'vehicle':
        return 2
    else:
        None
def split(df, group):
    data = namedtuple('data', ['filename', 'object'])
    gb = df.groupby(group)
    return [data(filename, gb.get_group(x)) for filename, x in zip(gb.groups.keys(), gb.groups)]
def create_tf_example(group, path):
    with tf.gfile.GFile(os.path.join(path, '{}'.format(group.filename)), 'rb') as fid:
        encoded_jpg = fid.read()
    encoded_jpg_io = io.BytesIO(encoded_jpg)
    image = Image.open(encoded_jpg_io)
    width, height = image.size
    filename = group.filename.encode('utf8')
    image_format = b'jpg'
    xmins = []
    xmaxs = []
    ymins = []
    ymaxs = []
    classes_text = []
    classes = []
    for index, row in group.object.iterrows():
        xmins.append(row['xmin'] / width)
        xmaxs.append(row['xmax'] / width)
        ymins.append(row['ymin'] / height)
        ymaxs.append(row['ymax'] / height)
        classes_text.append(row['class'].encode('utf8'))
        classes.append(class_text_to_int(row['class']))
    tf_example = tf.train.Example(features=tf.train.Features(feature={
        'image/height': dataset_util.int64_feature(height),
        'image/width': dataset_util.int64_feature(width),
        'image/filename': dataset_util.bytes_feature(filename),
        'image/source_id': dataset_util.bytes_feature(filename),
        'image/encoded': dataset_util.bytes_feature(encoded_jpg),
        'image/format': dataset_util.bytes_feature(image_format),
        'image/object/bbox/xmin': dataset_util.float_list_feature(xmins),
        'image/object/bbox/xmax': dataset_util.float_list_feature(xmaxs),
        'image/object/bbox/ymin': dataset_util.float_list_feature(ymins),
        'image/object/bbox/ymax': dataset_util.float_list_feature(ymaxs),
        'image/object/class/text': dataset_util.bytes_list_feature(classes_text),
        'image/object/class/label': dataset_util.int64_list_feature(classes),
    }))
    return tf_example
def main(_):
    writer = tf.python_io.TFRecordWriter(FLAGS.output_path)
    path = os.path.join(os.getcwd(), 'images')
    examples = pd.read_csv(FLAGS.csv_input)
    grouped = split(examples, 'filename')
    for group in grouped:
        tf_example = create_tf_example(group, path)
        writer.write(tf_example.SerializeToString())
    writer.close()
    output_path = os.path.join(os.getcwd(), FLAGS.output_path)
    print('Successfully created the TFRecords: {}'.format(output_path))
if __name__ == '__main__':
    tf.app.run()

对于训练集与测试集分别运行上述代码即可，得到train.record与test.record文件。

三：分析代码结构：

打开object_detection文件夹中的 object_detection_tutorial.ipynb ，分析代码结构。

第一部分Imports导入需要的包，不需要做更改。

第二部分Env setup 设置系统环境，不必更改。

第三部分

Object detection imports 导入Object detection 需要的模块，如果报错，说明工作目录设置不对，或者…/research以及…/research/slim 的环境变量没有设置好。

第四部分为设置模型的对应参数。 需要修改

第五部分Download Model 为下载模型，通过向对应网站发送请求进行下载解压操作。

第六部分Load a (frozen) Tensorflow model into memory 将训练完的模型载入内存，第六部分Loading label map将标签map载入。

这几个部分都不用修改，直接复制即可。

第七与第八部分，也无需修改

第九部分要进行修改

最后一部分，无需进行修改