faster rcnn 训练自己数据集记录

Caffe各种Bug修正
./tools/test_net.py --gpu 0 --def models/pascal_voc/VGG16/faster_rcnn_end2end/test.prototxt --net /home/drl/project2/py-faster-rcnn/output/faster_rcnn_end2end/voc_2007_trainval/vgg16_faster_rcnn_iter_220.caffemodel --imdb voc_2007_test --cfg experiments/cfgs/faster_rcnn_end2end.yml

 

./experiments/scripts/faster_rcnn_end2end.sh 0 VGG16 pascal_voc

./tools/train_net.py --gpu 0 --solver models/pascal_voc/VGG16/faster_rcnn_end2end/solver.prototxt   --imdb voc_2007_trainval --iters 50 --cfg experiments/cfgs/faster_rcnn_end2end.yml

 ./experiments/scripts/faster_rcnn_end2end.sh 0 VGG16 pascal_voc

./tools/train_net.py --gpu 0 --solver models/pascal_voc/VGG16/faster_rcnn_end2end/solver.prototxt --imdb voc_2007_trainval --iters 70000 --cfg experiments/cfgs/faster_rcnn_end2end.yml --weights /home/drl/project2/py-faster-rcnn/data/faster_rcnn_models/VGG16.v2.caffemodel

./tools/demo.py

1. AttributeError: 'module' object has no attribute 'text_format'

2. bbox_targets[ind, start:end] = bbox_target_data[ind, 1:]
TypeError: slice indices must be integers or None or have an __index__ method

An easier solution is to add the following lines to lib/proposal_target_layer.py
After line 126,

start=int(start)
end=int(end)

After line 166,

fg_rois_per_this_image=int(fg_rois_per_this_image)

3.  BB = BB[sorted_ind, :]
IndexError: too many indices for array

4. 修改test.protxt和train.protxt的cls_score和bbox_pred 为_1
修改test.py bbox_pred为bbox_pred_1

修改voc_eval.py int变成float

5. VGG16.V2.CAFFEMODEL

6. assert (boxes[:, 2] >= boxes[:, 0]).all()
AssertionError

2、自己制作了VOC或者coco数据集格式

如果你自己制作了voc pascal或者coco数据集格式，那么你需要注意，看看是否有类似下面的报错

RuntimeWarning: invalid value encountered in log targets_dw = np.log(gt_widths / ex_widths)

这种报错说明数据集的数据有一些问题，多出现在没有控制好边界的情况，首先，打开lib/database/pascal_voc.py文件，找到208行，将208行至211行每一行后面的-1删除，如下所示：

x1 = float(bbox.find(‘xmin’).text)
y1 = float(bbox.find(‘ymin’).text)
x2 = float(bbox.find(‘xmax’).text)
y2 = float(bbox.find(‘ymax’).text)
原因是因为我们制作的xml文件中有些框的坐标是从左上角开始的，也就是（0,0）如果再减一就会出现log（-1）的情况

如果这样之后还是出现类似的报错，那么说明依然有-1或者其他负数的情况出现。解决方法是打开./lib/model/config.py文件，找到flipp选项，将其置为False
__C.TRAIN.USE_FLIPPED = False

如果这样以后还是报类似的错误，就一定检查一下自己制作数据集的过程，看看是否哪里没有考虑清
---------------------
作者：ZeroZone零域
来源：CSDN
原文：https://blog.csdn.net/ksws0292756/article/details/80702704
版权声明：本文为博主原创文章，转载请附上博文链接！

一. 修改VGG_CNN_M_1024模型配置文件

1）train.prototxt文件

      input-data层的num_class数值由21改为2；

      roi-data层的num_class数值由21改为2；

      cls_score层的num_output数值由21改为2（1+1）；

      bbox_pred层的num_output数值由84改为8（2*4）；

2）test.prototxt文件(c++dll调用的.prototxt也要改)

cls_score层的num_output数值由21改为2（1+1）；

bbox_pred层的num_output数值由84改为8（2*4）;

3）lib/datasets/pascal_voc.py文件

       修改self._classes = ('__background__',  '训练的数据类别')

 

三. cache问题

在重新训练新的数据之前将cache删除

1) py-faster-rcnn/output
2) py-faster-rcnn/data/cache