【CUDA】nvcc` 与 `nvidia-smi` 命令的区别及用途

在使用 NVIDIA GPU 和 CUDA 技术时，了解和使用正确的工具是非常重要的。nvcc 和 nvidia-smi 是两个关键的命令行工具，它们各自提供了不同的功能和信息。本文将详细介绍这两个命令的主要区别及其用途，帮助你更好地管理和优化你的 GPU 和 CUDA 环境。

---

nvcc 命令

功能:
nvcc（NVIDIA CUDA Compiler）是用于编译 CUDA 代码的工具。它将 CUDA 源文件（通常具有 .cu 扩展名）编译成可以在 NVIDIA GPU 上运行的可执行文件或库。

主要用途:

• 编译 CUDA 程序。
• 提供有关 CUDA 编译环境的信息。

常用命令和参数:

• nvcc --version: 显示 nvcc 的版本信息以及所使用的 CUDA 版本。
• nvcc -V: 显示 CUDA 编译器的版本信息。
• nvcc -o outputfile inputfile.cu: 编译 CUDA 源代码文件 inputfile.cu，生成可执行文件 outputfile。

示例:

nvcc --version

此命令将显示 nvcc 及其相关 CUDA 版本的信息。

---

nvidia-smi 命令

功能:
nvidia-smi（NVIDIA System Management Interface）是 NVIDIA 提供的一个命令行工具，用于管理和监控 NVIDIA GPU 的状态。它提供了 GPU 硬件信息、驱动程序版本、使用情况、内存使用情况等详细信息。

主要用途:

• 监控 GPU 的运行状态和性能。
• 查看 GPU 驱动版本、CUDA 版本和 GPU 温度等信息。
• 管理 GPU 计算资源，如查看正在运行的 GPU 进程。

常用命令和参数:

• nvidia-smi: 显示 GPU 状态和统计信息。
• nvidia-smi -L: 列出系统中的所有 GPU 设备。
• nvidia-smi --query-gpu=name,memory.free,memory.total --format=csv: 查询 GPU 的特定属性并以 CSV 格式输出。

示例:

nvidia-smi

此命令将显示有关 GPU 的综合信息，包括 GPU 名称、驱动程序版本、CUDA 版本、显存使用情况等。

---

总结

• nvcc: 主要用于 CUDA 编译和编译器信息，帮助你编译 CUDA 代码并检查编译环境配置。
• nvidia-smi: 主要用于 GPU 状态监控和管理，提供有关 GPU 的硬件状态、性能指标和驱动程序信息。

这两个工具在 GPU 的使用和管理中扮演着不同但互补的角色。nvcc 确保你的 CUDA 代码能够被正确编译和运行，而 nvidia-smi 则帮助你监控和管理 GPU 的运行状态。掌握这两个工具的使用，将有助于你更高效地开发和调试基于 CUDA 的应用程序。