1.实验基本情况
硬件环境:单块Nvidia RTX3090 GPU
软件环境:Python3.8,Pytorch1.12.1 cudatoolkit=11.3
2. 问题描述
运行命令时,命令中的 nvidia-smi 有效,输出如下

但是程序运行过程中出现下面的错误:
site-packages/torch/cuda/__init__.py", line 217, in _lazy_inittorch._C._cuda_init()
RuntimeError: CUDA driver initialization failed, you might not have a CUDA gpu.
3.问题分析
如图1中,在当前安装的 CUDA Driver的版本460.91.03,其支持最高的 CUDA Driver为11.2,即最高支持运行11.2的运行时API,这个具体可查Nvidia官网点击进入。