Mask RCNN训练自己的数据集

置顶一呆飞仙

已于 2022-01-20 15:35:54 修改

阅读量10w+

点赞数 79

分类专栏：深度学习 HUMAN+ 文章标签： Mask R-CNN tensorflow+keras 实例分割掩码数据集

于 2018-06-05 15:33:36 首次发布

本文链接：https://blog.csdn.net/l297969586/article/details/79140840

版权

深度学习同时被 2 个专栏收录

40 篇文章 0 订阅

订阅专栏

HUMAN+

11 篇文章 1 订阅

订阅专栏

该版本为tensorflow+keras版本的，官方版本刚开源10个小时（caffe2），以后再更新…

一、工具

cuda与cudnn安装请参考我之前博客：
http://blog.csdn.net/l297969586/article/details/53320706
http://blog.csdn.net/l297969586/article/details/67632608
tensorflow安装：
http://blog.csdn.net/l297969586/article/details/72820310
ipython-notebook：
http://blog.csdn.net/l297969586/article/details/77851039
Mask-RCNN ：

https://github.com/matterport/Mask_RCNN

labelme（标注mask数据集用的）：

https://github.com/wkentaro/labelme

二、修改训练代码

主要修改train_shapes.ipynb，我个人感觉ipython-notebook不好用，所以我将它转成.py格式，就是把代码粘出来。let’s go!
1、注释%matplotlib inline
2、在ShapesConfig类中，GPU_COUNT = 2，IMAGES_PER_GPU = 1两个参数自己根据自己电脑配置修改参数，由于该工程用的resnet101为主干的网络，训练需要大量的显存支持，我的图片尺寸为1280*800的，IMAGES_PER_GPU 设置为2，在两个GeForce GTX TITAN X上训练显存都会溢出，所以IMAGES_PER_GPU = 1，大佬可忽略。
NUM_CLASSES = 1 + 4为你数据集的类别数，第一类为bg，我的是4类，所以为1+4
IMAGE_MIN_DIM = 800，IMAGE_MAX_DIM = 1280修改为自己图片尺寸
RPN_ANCHOR_SCALES = (8 * 6, 16 * 6, 32 * 6, 64 * 6, 128 * 6)，根据自己情况设置anchor大小
3、在全局定义一个iter_num=0
△4、重新写一个训练类
名字自己起，我的叫

class DrugDataset(utils.Dataset):

添加函数

#得到该图中有多少个实例（物体）
def get_obj_index(self, image):
        n = np.max(image)
        return n

#解析labelme中得到的yaml文件，从而得到mask每一层对应的实例标签
def from_yaml_get_class(self,image_id):
        info=self.image_info[image_id]
        with open(info['yaml_path']) as f:
            temp=yaml.load(f.read())
            labels=temp['label_names']
            del labels[0]
        return labels

#重新写draw_mask
def draw_mask(self, num_obj, mask, image):
        info = self.image_info[image_id]
        for index in range(num_obj):
            for i in range(info['width']):
                for j in range(info['height']):
                    at_pixel = image.getpixel((i, j))
                    if at_pixel == index + 1:
                        mask[j, i, index] =1
        return mask

#重新写load_shapes，里面包含自己的自己的类别（我的是box、column、package、fruit四类）
#并在self.image_info信息中添加了path、mask_path 、yaml_path
def load_shapes(self, count, height, width, img_floder, mask_floder, imglist,dataset_root_path):
        """Generate the requested number of synthetic images.
        count: number of images to generate.
        height, width: the size of the generated images.
        """
        # Add classes
        self.add_class("shapes", 1, "box")
        self.add_class("shapes", 2, "column")
        self.add_class("shapes", 3, "package")
        self.add_class("shapes", 4, "fruit")
        for i in range(count):
            filestr = imglist[i].split(".")[0]
            filestr = filestr.split("_")[1]
            mask_path = mask_floder + "/" + filestr + ".png"
            yaml_path=dataset_root_path+"total/rgb_"+filestr+"_json/info.yaml"
            self.add_image("shapes", image_id=i, path=img_floder + "/" + imglist[i],
                           width=width, height=height, mask_path=mask_path,yaml_path=yaml_path)

#重写load_mask
    def load_mask(self, image_id):
        """Generate instance masks for shapes of the given image ID.
        """
        global iter_num
        info = self.image_info[image_id]
        count = 1  # number of object
        img = Image.open(info['mask_path'])
        num_obj = self.get_obj_index(img)
        mask = np.zeros([info['height'], info['width'], num_obj], dtype=np.uint8)
        mask = self.draw_mask(num_obj, mask, img)
        occlusion = np.logical_not(mask[:, :, -1]).astype(np.uint8)
        for i in range(count - 2, -1, -1):
            mask[:, :, i] = mask[:, :, i] * occlusion
            occlusion = np.logical_and(occlusion, np.logical_not(mask[:, :, i]))
        labels=[]
        labels=self.from_yaml_get_class(image_id)
        labels_form=[]
        for i in range(len(labels)):
            if labels[i].find("box")!=-1:
                #print "box"
                labels_form.append("box")
            elif labels[i].find("column")!=-1:
                #print "column"
                labels_form.append("column")
            elif labels[i].find("package")!=-1:
                #print "package"
                labels_form.append("package")
            elif labels[i].find("fruit")!=-1:
                #print "fruit"
                labels_form.append("fruit")
        class_ids = np.array([self.class_names.index(s) for s in labels_form])
        return mask, class_ids.astype(np.int32)

4、代码主体修改

#基础设置
dataset_root_path="/home/lijing/workspace_lj/fg_dateset/"
img_floder = dataset_root_path+"rgb"
mask_floder = dataset_root_path+"mask"
#yaml_floder = dataset_root_path
imglist = listdir(img_floder)
count = len(imglist)
width = 1280
height = 800

#train与val数据集准备
dataset_train = DrugDataset()
dataset_train.load_shapes(count, 800, 1280, img_floder, mask_floder, imglist,dataset_root_path)
dataset_train.prepare()

dataset_val = DrugDataset()
dataset_val.load_shapes(count, 800, 1280, img_floder, mask_floder, imglist,dataset_root_path)
dataset_val.prepare()

注释掉
model.train(dataset_train,dataset_val,learning_rate=config.LEARNING_RATE/10,epochs=50,layers="all")之后的代码就好了

三、使用labelme生成mask掩码数据集

github地址：https://github.com/wkentaro/labelme
安装方式：

sudo apt-get install python-qt4 pyqt4-dev-tools
sudo pip install labelme

使用，只需在终端输入：

labelme

我的数据集命名如下
这里写图片描述
Note：在画掩码过程中如有多个box、fruit…命名规则为box1、box2…fruit1、fruit2…。因为labelme这个标定工具还是不太智能，最后生成的标签为一个label.png文件，这个文件只有一通道，在你标注时同一标签mask会被给予一个标签位，而mask要求不同的实例要放在不同的层中。最终训练索要得到的输入为一个whn的ndarray，其中n为该图片中实例的个数。总而言之，画mask时就按照上述命名规则就好了，具体的过程已经在上述代码中实现。如图：[外链图片转存失败(img-pz6XNqZO-1569381163426)(https://img-blog.csdn.net/20180124180622625?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvbDI5Nzk2OTU4Ng==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)]。
此时labelme生成的为.json文件，需要将json文件转换为我们需要的标签文件，我这里写了一个简单的脚本，不用一个个去转化了，只需将s1改为你对应的路径及图片前缀名，循环数改为自己数据集数即可

#!/bin/bash
s1="/media/lj/GSP1RMCPRXV/fg_dateset/json/rgb_"
s2=".json"
for((i=1;i<901;i++))
do 
s3=${i}
labelme_json_to_dataset ${s1}${s3}${s2}
done

在你图片目录下会生成多个rgb_x_json文件夹，每个文件夹中有img.png（原图），info.yaml,label.png,label_viz.png四个文件，其中需要用的只有info.yaml以及label.png
转化出来的可视化标签如图：
这里写图片描述

四、转化label.png为可用格式

注：貌似labelme已经升级，现在mask图直接为8位，大家可以用cv读一下，若是8位这一步就省了。

labelme生成的掩码标签 label.png为16位存储，opencv默认读取8位，需要将16位转8位
参考：http://blog.csdn.net/l297969586/article/details/79154150

五、训练

直接运行修改后的py文件即可，训练中图片展示：
这里写图片描述

六、结果展示

我只训练了四个类（box，column，package，friut）
测试图片未参与训练，测试结果如下：
这里写图片描述
[外链图片转存失败(img-zhg5jkXk-1569381163433)(https://img-blog.csdn.net/20180124181808641?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvbDI5Nzk2OTU4Ng==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)]

2018.4.22NOTE:介于很多人问到怎么计算单张图片的AP值，现添加计算f1_measure与AP计算代码如下：

local：为测试代码里得出的mask
ground_truth:为从mask文件夹直接读取label.png的ndarray

#计算单张f1_measure
def compute_f1_measure(local,ground_truth):
    overlap_area=0
    mask_area=0
    FP=0
    FN=0
    for i in range(800):
        for j in range(1280):
            if ground_truth[i][j]:
                mask_area+=1
            for k in range (local.shape[2]):
                if local[i][j][k] == ground_truth[i][j] and ground_truth[i][j] :
                    overlap_area+=1
                if local[i][j][k] and ground_truth[i][j] != local[i][j][k]:
                    FP+=1
                if local[i][j][k] != ground_truth[i][j] and ground_truth[i][j]:
                    FN+=1
    print ("overlap_area",overlap_area)
    print ("mask_area:",mask_area)
    TP=overlap_area
    P=TP/(TP+FP)
    R=TP/(TP+FN)
    f1_measure=2*P*R/(P+R)
    return f1_measure
#计算单张mAP值
def compute_mAP(local,ground_truth):
    overlap_area=0
    mask_area=0
    FP=0
    FN=0
    for i in range(800):
        for j in range(1280):
            if ground_truth[i][j]:
                mask_area+=1
            for k in range (local.shape[2]):
                if local[i][j][k] == ground_truth[i][j] and ground_truth[i][j] :
                    overlap_area+=1
                if local[i][j][k] and ground_truth[i][j] != local[i][j][k]:
                    FP+=1
                if local[i][j][k] != ground_truth[i][j] and ground_truth[i][j]:
                    FN+=1
    print ("overlap_area",overlap_area)
    print ("mask_area:",mask_area)
    TP=overlap_area
    P=TP/(TP+FP)
    #R=TP/(TP+FN)
    #f1_measure=2*P*R/(P+R)
    return P

一呆飞仙

关注

79
点赞
踩
529

收藏

觉得还不错? 一键收藏
451
评论
Mask RCNN训练自己的数据集

该版本为tensorflow+keras版本的，官方版本刚开源10个小时（caffe2），以后再更新..一、工具cuda与cudnn安装请参考我之前博客： http://blog.csdn.net/l297969586/article/details/53320706 http://blog.csdn.net/l297969586/article/details/67632608 ...
复制链接

扫一扫