GPU中的计算核心数量，应该怎么查看

GPU中的计算核心数量（CUDA Cores）指的是GPU硬件中并行计算的基本单元。每个CUDA核心可以执行一定数量的计算任务，通常是并行处理浮点运算或整数运算。CUDA核心数量与GPU的计算能力直接相关，核心越多，理论上并行处理能力越强。

不同的GPU架构（例如Turing、Ampere、Volta等）和型号（如A10、A100、RTX 3090等）有不同数量的计算核心。

如何查看GPU中的计算核心数量：

1. 使用 nvidia-smi 命令

nvidia-smi 是 NVIDIA 提供的命令行工具，可以查看与GPU相关的各种信息，包括GPU型号、驱动版本、内存使用情况等。虽然 nvidia-smi 不能直接显示CUDA核心数，但它能显示GPU的型号和架构，我们可以根据这些信息来推算CUDA核心数。

nvidia-smi

这将输出类似如下的信息：

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 460.32.03    Driver Version: 460.32.03    CUDA Version: 11.2     |
|-------------------------------+----------------------+----------------------|
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap| Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  Tesla A100-SXM4-40GB   On   | 00000000:00:00.0 Off |                    0 |
| N/A   32C    P8    32W / 400W |      0MiB / 40960MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

从输出中可以看到GPU的名称（例如Tesla A100-SXM4-40GB），可以通过查找该型号的文档或者NVIDIA的官方资料来获取CUDA核心数量。例如，A100有6912个CUDA核心。

2. 使用 deviceQuery 工具

deviceQuery 是 CUDA Toolkit 中提供的一个工具，可以用来查询GPU的详细信息，包括CUDA核心数量。

cd /usr/local/cuda/samples/1_Utilities/deviceQuery
sudo make
./deviceQuery

运行完毕后，会显示诸如GPU的型号、CUDA核心数、显存等信息。

输出示例（假设是A100 GPU）：

Device 0: "Tesla A100-SXM4-40GB"
  CUDA Driver Version / Runtime Version          11.2 / 11.2
  GPU Arch                                          8.0
  Device Capability                                 8.0
  Total amount of global memory:                   40502 MBytes (42503002112 bytes)
  Number of Multiprocessors:                       108
  Number of CUDA Cores:                            6912
  ...

在这个输出中，Number of CUDA Cores 就是GPU的计算核心数量。

3. 使用 nvidia-settings

如果你的系统中安装了图形界面工具，也可以使用 nvidia-settings 查看GPU详细信息：

nvidia-settings

打开图形界面后，在“GPU 0”或其他GPU设备的详细信息中，通常也能找到CUDA核心数量。

4. 查阅官方文档

对于不同型号的GPU，最直接的办法是查阅NVIDIA的官方规格说明。NVIDIA的每个GPU产品都有详细的硬件参数，包括CUDA核心数。例如：

• NVIDIA A10：7,680个CUDA核心
• NVIDIA A100：6,912个CUDA核心
• NVIDIA RTX 3090：10,496个CUDA核心

这些信息可以从NVIDIA的官方网站或者具体产品的技术规格文档中找到。

总结

虽然 nvidia-smi 命令本身不会直接显示CUDA核心数，但你可以通过查看GPU型号并查阅相关文档，来获取核心数量。或者，使用 deviceQuery 工具可以精确地获取CUDA核心数。