相关概念
CUDA 有两种API,分别是驱动API和 运行时 API 。
nvidia-smi:如果能正常使用,则说明Driver API 已经安装,nvidia-smi显示的是支持的最高的cuda版本,是向下兼容的
nvcc -V :是指实际安装的cuda toolkit 必须小于等于driver API支持的最高版本。
cuda卸载
cuda安装
安装pytorch
https://pytorch.org/get-started/previous-versions
我遇到的问题
我的服务器镜像已经安装了GPU驱动和cuda10.2(cuda toolkit) ,但是RTX 3090 的算力是sm_86,cuda10.x是不支持这个算力的,因此需要安装cuda11.x才可以。