samples/coco/coco.py中的IMAGES_PER_GPU修改为1(原代码中设置为2,在我的机器上会out of memory),我只有一个GPU,所以GPU_COUNT也修改为1
如果数据集没有下载,则download修改为True
python3 samples/coco/coco.py train --dataset=your/data/path/ --model=coco --download=True
在samples/coco/coco.py中使用的command是
evaluate --dataset=/data2/test/cxj/Mask_RCNN/coco_dataset --model=/data2/test/cxj/Mask_RCNN/mask_rcnn_coco.h5
结果如下: