$ git clone https://github.com/NVIDIA/nccl.git
$ cd nccl
$ sudo make install -j8
$ sudo ldconfig
出现以下情况表示编译成功。由于是编译到了默认的路径,所以caffe的makefile.config中不需要修改成INCLUDE_DIRS += /path/nccl/build/include LIBRARY_DIRS += /path/nccl/build/lib
然后直接打开makefile.config中的nccl接口
USE_NCCL := 1
然后编译caffe
make all -j $(($(nproc) + 1))
make test -j $(($(nproc) + 1))
make runtest -j $(($(nproc) + 1))
make pycaffe -j $(($(nproc) + 1))
参考
https://docs.nvidia.com/deeplearning/sdk/nccl-install-guide/index.html