Fast rcnn 训练自己的数据库问题小结

最新推荐文章于 2023-05-21 23:39:11 发布

Pierre_Hao

最新推荐文章于 2023-05-21 23:39:11 发布

阅读量7.8k

点赞数 1

分类专栏：深度学习 CNN detection 文章标签： fast-rcnn detection

本文链接：https://blog.csdn.net/hao529good/article/details/46544163

版权

8 篇文章 0 订阅

订阅专栏

6 篇文章 0 订阅

订阅专栏

5 篇文章 0 订阅

订阅专栏

fast rcnn 提供了两个预训练的模型，拿CaffeNet做例子，有CaffeNet.v2.caffemodel 和 caffenet_fast_rcnn_iter_40000.caffemodel两种。前者是imagenet上训练的模型，后者是imagenet上训练过又在voc上finetune后的模型，故使用第一个用fast rcnn自带的配置文件train.prototxt没有问题，但是用第二个模型训练自己的数据库，由于类别数目不一致会导致启动caffe后报错：
Check failed： ShapeEquals(proto) shape mismatch(reshape noe set)
这个时候只要将train里面的cls_score和bbox_pred重新命名即可
训练中出现出现boxes[:,2] >= boxes[:,0] 的assert 错误，跟踪进去发现报错的boxes[0,0]=65535，说明出现了越界错误，此时检查上面两句boxes[:,0] = widths[i] - oldx2 -1 … 可以将-1去掉解决该问题
不要使用caffe的snapshot，即保持solver里面 snapshot一直为0，fast rcnn已经做了snapshot的设置，在lib/fast-rcnn/下面config.py里面__C.TRAIN.SNAPSHOT_ITER可以设置，保存地址也在此文件的get_output_dir函数里
matlab fast_rcnn_demo.m中可能box的坐标与SS生成的不一致，需要做一个x与y的交换例如：
box = boxes;
boxes(:,1) = box(:,2);
boxes(:,2) = box(:,1);
boxes(:,3) = box(:,4);
boxes(:,4) = box(:,3);
python 的demo.py也有同样的问题，这也是网上很多网友发现无法复现作者的效果的原因之一