NVIDIA-SMI 显示的cuda version 是指当前版本还是最大可以支持的 cuda 版本? - 知乎 (zhihu.com)
这个王方浩答主的回答解释的比较清楚了,
CUDA其实是分为2个部分。一部分是用户态的驱动里,一部分是运行时、库和工具。英伟达官方已经把驱动和CUDA匹配的版本打包到一起了安装了驱动,所以调用nvidia-smi,就会显示用户态的CUDA驱动版本。
我的情况是笔电4060显卡,我的解决办法是在CUDA - Wikipedia找对应GPUs supported,然后再到CUDA Toolkit Archive | NVIDIA Developer下比nvidia-smi显示的cuda version小的cuda toolkit(我是下了12.2版本下到本地)。