0.目的
刚刚学习faster rcnn目标检测算法,在尝试跑通github上面Xinlei Chen的tensorflow版本的faster rcnn代码时候遇到很多问题(我真是太菜),代码地址如下:
https://github.com/endernewton/tf-faster-rcnn
1. 运行环境配置
代码的README里面说明了,环境要求既有是这个git里面的,还有就是rbg的caffe代码中也有了一些环境。基本上包括:
python2.7
CUDA(并行计算库)>=6.0
cudnn(深度学习库)
cython,
opencv-python
easydict=1.6
当然这只是跑通代码的环境,并没有那么苛刻的。
1.1 检查环境
检查环境的目的是为了安装TensorFlow,首先是
1.1.1 Linux 内核和发行版
需要查看 linux内核和发行版,来确定后续一些软件的安装版本选择。《如何查看LINUX发行版的名称及其版本号》:https://www.qiancheng.me/post/coding/show-linux-issue-version
查看Linux内核
uname -a
查看Linux发行版
cat /etc/redhat-release #centos下面的命令
我用的是 centos,在运行demo期间没发现什么问题,但最好是用Ubutu 14或者16吧
1.1.2 检查cuda 和cudnn的版本
chen 推荐的是 TensorFlow 的 r1.2 版本,应该是安装r1.2推荐的cuda和cudnn,但是因为我没有服务器的root权限,无法更改cuda和cudnn,所以只能选择一个和本机环境相对应的tensorflow版本了。
注意这里如果不安装匹配的版本,可能会出现cudnn库找不到的情况,(别问我怎么知道的),https://stackoverflow.com/questions/42013316/after-building-tensorflow-from-source-seeing-libcudart-so-and-libcudnn-errors,如果有root权限的,最好是装r1.2版本的,当然要查好r1.2支持的cuda和cudnn,方法也在下面。
查看cuda的版本:http://blog.csdn.net/zhangjunhit/article/details/76532196
cat /usr/local/cuda/version.txt
查看cudnn版本:
cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
我的cuda=8,cudnn=6
到tensorflow 的官网上查对应的TF版本:https://www.tensorflow.org/install/install_sources#common_installation_problems
如果没有GPU的就安装cpu版本,README里面说cpu也是能运行的,我没试。
1.2 安装Anaconda 和TensorFlow
tensorflow r1.4的安装教程:https://www.tensorflow.org/versions/r1.4/install/install_linux?hl=zh-cn,我是按照Anaconda的方法弄的,比较简单。
因为我的系统上面安装了anaconda,之前装了python3。为了方便,直接用anaconda新开了一个环境,装了python2.7。教程:https://www.jianshu.com/p/d2e15200ee9b
创建环境:
conda create -n tensorflow python=2.7
进入环境:
source activate tensorflow
前面这样显示就对了(我的名字叫python27,你的应该是tensorflow)
使用pip安装tensorflow:
pip install --ignore-installed --upgrade tfBinaryURL
注意这里的
更多镜像在:https://www.jianshu.com/p/502638407add
输入上面的命令之后就成功了,运行了一下官方的测试:
成功输出:Hello,TensorFlow!
1.3 安装其他依赖
保持在tensorflow这个环境中,继续用pip安装cython, opencv-python, easydict这三个库。
pip install cython
pip install opencv-python
pip install easydict==1.6
链接cython模块的时候出现了一个警告,具体什么原因我也不太清楚,就暂时没有管它,最后也是能运行demo的。
cc1plus: 警告:command line option ‘-Wstrict-prototypes’ is valid for C/ObjC but not for C++ [默认启用]
In file included from /home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/numpy/core/include/numpy/ndarraytypes.h:1816:0,
from /home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/numpy/core/include/numpy/ndarrayobject.h:18,
from /home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/numpy/core/include/numpy/arrayobject.h:4,
from nms/gpu_nms.cpp:346:
/home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/numpy/core/include/numpy/npy_1_7_deprecated_api.h:15:2: 警告:#warning "Using deprecated NumPy API, disable it by " "#defining NPY_NO_DEPRECATED_API NPY_1_7_API_VERSION" [-Wcpp]
#warning "Using deprecated NumPy API, disable it by " \
^
g++ -pthread -shared -L/home/luoguiyang/env/anaconda3/envs/python27/lib -Wl,-rpath=/home/luoguiyang/env/anaconda3/envs/python27/lib,--no-as-needed build/temp.linux-x86_64-2.7/nms/nms_kernel.o build/temp.linux-x86_64-2.7/nms/gpu_nms.o -L/usr/local/cuda/lib64 -L/home/luoguiyang/env/anaconda3/envs/python27/lib -Wl,-R/usr/local/cuda/lib64 -lcudart -lpython2.7 -o /home/luoguiyang/projects/3dcnn/branch/tf-faster-rcnn/lib/nms/gpu_nms.so
rm -rf build
3 下载代码和数据
到这一步,按照README里面的提示一步一步走就应该没问题了(如果在本地测试的话)。
1、clone github的仓库
git clone https://github.com/endernewton/tf-faster-rcnn.git
2、更新GPU的架构配置,到setup.py中找到 -arch 这个参数,改成自己的GPU架构就行了
cd tf-faster-rcnn/lib
# Change the GPU architecture (-arch) if necessary
vim setup.py
对应的配置如右图,github里面可能会对一些其他的显卡更新参数。
3、链接cython 模块,注意这也是在上一步那个lib 文件夹中进行的
make clean
make
cd ..
4、安装 Python COCO API,这是为了使用COCO数据库
cd data
git clone https://github.com/pdollar/coco.git
cd coco/PythonAPI
make
cd ../../..
4 运行Demo 和测试预训练模型
1、下载预训练模型
# Resnet101 for voc pre-trained on 07+12 set
./data/scripts/fetch_faster_rcnn_models.sh
README里面也说了,下载链接可能会失效,sh文件里面给了一个备用链接也是不管用的,但是readme里面还给了备份的Google Drive的地址,我把其中的要用的模型 voc_0712_80k-110k.tgz 这个文件手动下载了(百度云备份:https://pan.baidu.com/s/1kWkF3fT),下载之后放到 data文件夹中就行,(但是md5sum校验值对不上,估计是下载地址不一样的问题,也暂时忽略吧),运行以下命令解压:
tar xvf voc_0712_80k-110k.tgz
2、建立预训练模型的软连接
NET=res101
TRAIN_IMDB=voc_2007_trainval+voc_2012_trainval
mkdir -p output/${NET}/${TRAIN_IMDB}
cd output/${NET}/${TRAIN_IMDB}
ln -s ../../../data/voc_2007_trainval+voc_2012_trainval ./default
cd ../../..
3、运行以下代码就能测试demo了,主义是在tf-faster-rcnn 这个根文件夹中运行
# at repository root
GPU_ID=0
CUDA_VISIBLE_DEVICES=${GPU_ID} ./tools/demo.py
这里还有一个问题,demo里面一个文件 import matlibplot.pyplot ,这时候如果是用终端连接的服务器的话,可能会出现DISPLAY 变量未设置这个bug,echo $DISPLAY 命令这时候肯定是什么不显示的。错误如下:
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
Demo for data/demo/000456.jpg
Detection took 1.316s for 300 object proposals
Traceback (most recent call last):
File "./tools/demo.py", line 153, in
demo(sess, net, im_name)
File "./tools/demo.py", line 100, in demo
vis_detections(im, cls, dets, thresh=CONF_THRESH)
File "./tools/demo.py", line 50, in vis_detections
fig, ax = plt.subplots(figsize=(12, 12))
File "/home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/matplotlib/pyplot.py", line 1177, in subplots
fig = figure(**fig_kw)
File "/home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/matplotlib/pyplot.py", line 527, in figure
**kwargs)
File "/home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/matplotlib/backends/backend_qt4agg.py", line 46, in new_figure_manager
return new_figure_manager_given_figure(num, thisFig)
File "/home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/matplotlib/backends/backend_qt4agg.py", line 53, in new_figure_manager_given_figure
canvas = FigureCanvasQTAgg(figure)
File "/home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/matplotlib/backends/backend_qt4agg.py", line 76, in __init__
FigureCanvasQT.__init__(self, figure)
File "/home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/matplotlib/backends/backend_qt4.py", line 68, in __init__
_create_qApp()
File "/home/luoguiyang/env/anaconda3/envs/python27/lib/python2.7/site-packages/matplotlib/backends/backend_qt5.py", line 138, in _create_qApp
raise RuntimeError('Invalid DISPLAY variable')
RuntimeError: Invalid DISPLAY variable
这是因为matplotlib 输出的图像没有输出出来,有两种方法:
解决方法(1)设置X11转发,具体方法Google一下,因为我的服务器没有配置Xauth,我也没有root权限,所以对我不适用了
解决方法(2)改代码,不要让图像show了,而是把图像保存起来。错误里面可以看出引入matplotlib 的是 ./tools/demo.py 这个文件,教程:http://rootlu.com/blog/2017/10/08/MatplotlibInLinux.html/
更改了两处
改完之后,图片就保存在 tf-faster-rcnn 这里了,下载下来是这样的(没仔细改代码,只保存了一幅)
基础的demo就可以运行了。后面调试的部分研究明白了再补上。