CUDA的各个版本（Toolkit，Driver，Runtime API）以及nvcc--version与nvidia-smi输出讲解

CUDA Toolkit / CUDA Runtime API

• 这两个是一个东西，是开发者使用的工具包，包含了开发 CUDA 应用程序所需的所有工具和库。它包括编译器（nvcc）、库（如 cuBLAS、cuDNN）、调试和性能分析工具等。开发者可以使用这些工具来编写、编译和优化 CUDA 程序。

CUDA Driver

• 这是系统级的驱动程序，负责在 GPU 上运行 CUDA 程序。它提供了与操作系统和硬件的接口，确保 CUDA 程序能够正确地在 GPU 上执行。CUDA Driver 通常与 GPU 驱动程序一起安装。

版本约束

• CUDA Toolkit 版本要求最低的 CUDA Driver 版本，例如，CUDA 11.x 版本需要至少 450.80.02 版本的驱动程序。
• CUDA Driver 是向后兼容的，这意味着用较旧版本的 CUDA Toolkit 编译的应用程序可以在较新的驱动程序上运行。
• CUDA Driver一般会有要求Toolkit的最高版本

nvcc --version

Cuda compilation tools, release 11.8, V11.8.89
表示当前CUDA Toolkit版本11.8

nvidia-smi

输出：

• NVIDIA-SMI 555.85：这是 nvidia-smi 工具的版本号。
• Driver Version: 555.85：这是你当前安装的 NVIDIA 驱动程序版本。
• CUDA Version: 12.5：这是你支持的最高 CUDA Toolkit 版本。

系统是否可以安装多个CUDA Toolkit？

可以，只需要改变环境变量就可以指定当前使用的Toolkit，但要注意版本问题。

切换可以见其他博客，如：https://blog.csdn.net/zsc201825/article/details/91149550