father_yingying的博客

本文粗略介绍了gpu在通讯方面的演进，发展，及一些基础的性能调优思路。

nvidia 一些驱动的发布信息：nvidia 下载驱动的链接：nvidia cuda镜像：获取nvlink带宽： get_nvlink.sh验证hpc工作：test_hpc.sh。

前文介绍了NCCL的常用环境变量，本文介绍了NCCL-test性能基准测试，以及一些大规模集群测试的经验数据。

很多时候大家都有用docker使用gpu的需求，但是因为网络等原因不是那么好用，这里留了一个给ubuntu的安装包，网络好的话也提供了在线安装方式。

在我们的机器中，也就是相当于预装了driver cuda和runtime cuda，而且一般driver cuda == runtime cuda，出现这种现象不是巧合，因为driver cuda集成在驱动中，而驱动经常和runtime cuda一起打包发行，所以版本都是相同的，事实上预装时runtime cuda可以低一些，不影响使用。tensorflow 未集成 ----------> 12.5（使用全局cuda）而nvidia-smi 看到的，是driver cuda。

NCCL基础使用