深度学习笔记（一）安装Cuda+Theano+Caffe+Torch

转自：http://www.aichengxu.com/view/2464031

在深度学领域，有好几个开源框架，最著名的有Caffe，Theano和Torch。这三个框架各有所长。
Caffe的用户界面是做得最好的也是最容易上手的，但模块都是固定的，扩展性不佳。而且只能处理有向无环图，这就意味着它不能处理recurrent neural network。（似乎有人说可以，但我还不确定）
Theano的特色是能自动求导数。如果你想从底层自己实现反向传播算法，它会省去很多求导的运算。但如果你想用别人实现好的模块像搭积木一样搭建网络的话，这个求导的功能就似乎是一个鸡肋，反而还要占用编译的时间。
Torch的灵活性介于Caffe和Theano之间。它替我们封装好了网络模块，同时又允许我们对模块进行扩展。我现在大部分时间都使用Torch来训练网络。另一个好处是网上很多RNN的例子都是用torch写的，所以torch是学习RNN的一个很好的途径。唯一不好的地方是它使用Lua语言，学习曲线会陡峭一些。

这三个框架独立发展，短时期内不会出现一家独大的局面。所以我们在学习deep learning的时候最好每个框架都能有所了解。

下面记录了我在ubuntu上安装这三个框架的详细过程。顺序是：安装Ubuntu--》安装Cuda--》安装Caffe--》安装DIGITS--》安装Theano--》安装Torch。

安装Ubuntu

现在用优盘安装ubuntu很方便，只有分区这里需要配置一下，如果不想自己配置也可以选择默认设置。
分区：
swap 16G （和内存相同）
/ 50G
/boot 200M
/home 剩余所有

安装无线网卡（不需要安装无线网卡请自行跳过）：
此时没有无线网卡驱动，只能插网线上网
我的网卡是EDUP EP-MS1558，无线网卡的ubuntu驱动
https://github.com/pvaret/rtl8192cu-fixes

开启sshd：
sudo apt-get install openssh-server

然后确认sshserver是否启动了：

ps -e |grep ssh

安装cuda7.0：
在cuda官网下载cuda-repo-xxxxxxxxxx.deb
sudo dpkg -i cuda-repo-xxxxxxxxxx.deb
sudo apt-get update

sudo apt-get install -y cuda（n小时）

vim ~/.bashrc
在末尾添加

export CUDA_HOME=/usr/local/cuda

export LD_LIBRARY_PATH=${CUDA_HOME}/lib64:${LD_LIBRARY_PATH} (cuda的库在这里面)
export PATH=${CUDA_HOME}/bin:${PATH} (nvcc啥的都在这里面）

安装cudnn：
下载cudnn-6.5-linux-x64-v2.tgz
拷贝其中的文件到cuda的目录里
sudo cp cudnn.h /usr/local/cuda/include

sudo cp libcudnn* /usr/local/cuda/lib

安装caffe: （apt-get最好使用国内的源）
prerequisites:
sudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libhdf5-serial-dev protobuf-compiler

sudo apt-get install --no-install-recommends libboost-all-dev
sudo apt-get install libatlas-base-dev

sudo apt-get install libgflags-dev libgoogle-glog-dev liblmdb-dev (如果ubuntu低于14.04版本，此步骤需要手动安装)

下载代码：
可以从官方下载 https://github.com/BVLC/caffe

但如果要装DIGITS的话，就不能用上面那个，需要从NVIDIA的版本下载 https://github.com/NVIDIA/caffe

（DIGITS是Nvidia给Caffe开发的一个图形界面，用起来方便多了，建议安装）

安装pip
sudo apt-get install python-pip

安装python库
进入caffe的下载目录，进入python文件夹
cd ~/caffe/python
for req in $(cat requirements.txt); do sudo pip install $req; done (中间安装google的 protobuf时可能需要翻墙）

进入caffe文件夹
cp Makefile.config.example Makefile.config

# Adjust Makefile.config (for example, if using Anaconda Python)

make all

make test

make runtest （这时会出现找不到libcudart.so.7.0 因为我安装了7.5, 所以我把7.5当做7.0用。ln -s libcudart.so libcudart.so.7.0)

安装DIGITS
下载
git clone https://github.com/NVIDIA/DIGITS.git digits
进入其文件夹
sudo pip install -r requirements.txt
其他库
sudo apt-get install graphviz

ok运行
./digits-deserver就会在本机的5000端口开启一个http服务，用浏览器打开127.0.0.1:5000就可以看到界面了。

安装theano
sudo apt-get install python-numpy python-scipy python-dev python-pip python-nose g++ libopenblas-dev git
sudo apt-get install python matplotlib

sudo pip install Theano
但test theano时显示没有pycuda...

安装Torch

curl -s https://raw.githubusercontent.com/torch/ezinstall/master/install-deps | bash

git clone https://github.com/torch/distro.git ~/torch --recursive

cd ~/torch; ./install.sh