Faster RCNN从demo到训练自己的数据(1)——前言篇

注意：

一定要保证电脑装有353.66（CUDA7.5）或369.30（CUDA8.0）以上的N卡驱动，至少保证使用GeForce800系列以上的显卡！否则caffe会显示  “Check failed: error == cudaSuccess (35 vs. 0)”。

一定使用caffe的GPU接口，CPU无法跑Faster RCNN，否则会提示 “无法解析Forward_gpu(...)、Backward_gpu(...)” 。因为原作者并没有提供CPU版本，博客所有方法均无效，有兴趣的可以自己尝试实现。

1.系统环境是Windows7+CUDA8.0+CUDNN5.1+VS2013+Python2.7

2.开始前需要先进行以下几步工作：

（1）编译GPU版本caffe的python接口。修改.\caffe\windows\CommonSettings.props，改为GPU版本caffe。点击Caffe.sln，依次生成libcaffe、caffe，再对pycaffe点击生成，编译caffe的python接口。将.\caffe-master\Build\x64\Release\pycaffe\caffe文件夹复制到.\Python\Lib\site-packages\下，若安装Anaconda2，也可以复制到.\Anaconda2\Lib\site-packages\路径下。调用cmd，输入python，再输入import caffe，验证是否成功。

（2）下载py-faster-rcnn，地址：https://github.com/rbgirshick/py-faster-rcnn，此为Linux版本。

再下载py-faster-rcnn-windows，地址：https://github.com/MrGF/py-faster-rcnn-windows 。将py-faster-rcnn-windows中的lib完全替换掉py-faster-rcnn中的lib。

替换后，在py-faster-rcnn\lib\rpn路径下，编辑proposal_layer.py：

a. 将其中的 param_str_ 替换为 param_str。 
b. 将cfg_key = str(self.phase)替换为cfg_key = str('TRAIN' if self.phase == 0 else 'TEST')。

（3）点击Caffe.sln，在libcaffe下添加文件，.\caffe\src\caffe\layers下的roi_polling_layer.cpp、roi_polling_layer.hpp、roi_polling_layer.cu分别添加（.cpp加入到libcaffe\src\layers\，.hpp加入到libcaffe\include\，.cu加入到libcaffe\），对libcaffe点击重新生成。对pycaffe点击生成，生成新的pycaffe文件夹中的caffe文件夹。将其复制到py-faster-rcnn\caffe-fast-rcnn\python文件夹下（若无python文件夹，则新建一个）。

可能问题：编译libcaffe可能提示 “无法解析的外部符号ROIPoolingLayer<double>::Forward_gpu(...)、ROIPoolingLayer<double>::Backward_gpu(...)”

解决方法：打开.\caffe-master\windows\libcaffe\libcaffe.vcxproj，保证存在<CudaCompile Include="..\..\src\caffe\layers\roi_pooling_layer.cu" />，如图。若无，则加上。保存libcaffe.vcxproj，再编译libcaffe即可成功。