nvcc和nvidia-smi显示版本不一致的问题

在服务器上用3090尝试运行程序的时候发现了报错
UserWarning: NVIDIA GeForce RTX 3090 with CUDA capability sm_86 is not compatible with the current PyTorch installation. The current PyTorch install supports CUDA capabilities sm_37 sm_50 sm_60 sm_70.
查看了一下CUDA的版本，用nvcc -V得到的是V11.6.124，用nvidia-smi得到的版本是11.4。

nvcc 和 nvidia-smi的作用

1. nvcc属于CUDA的编译器，将程序编译成可执行的二进制文件。
2. nvidia-smi帮助管理和监控NVIDIA GPU设备。
   nvcc显示的是CUDA的runtime api， 由CUDA Toolkit installer安装。nvidia-smi显示的是driver api。

pytorch版本选择

在选择pytorch版本的时候，指定的CUDA版本对应的command是cudatoolkit，因此应该选择nvcc -V的版本号。

如何安装

https://pytorch.org/get-started/locally/
conda install pytorch torchvision torchaudio pytorch-cuda=11.6 -c pytorch -c nvidia
如果选择使用国内镜像源的话，需要删除-c python -c nvidia
国内镜像源似乎没有适配11.6版本的，因此安装高版本不能使用国内镜像源，有点慢，等着就好。

确认安装

安装完成后运行

import torch
x = torch.rand(5,3)
print(x)
print(torch.cuda.is_available())

---

reference：
https://www.jianshu.com/p/eb5335708f2a
https://pytorch.org/get-started/locally/