要获得GPU设备的数量,在cuda中是通过cudaGetDeviceCount(int*)来实现的。
对于每个GPU设备。cuda使用cudaDeviceProp类型来保存设备信息。cudaDeviceProp的详细内容如下
我们通过cudaGetDeviceProperties(cudaDeviceProp* prop,int i)来获取第i块设备属性。具体参考代码如下
#include<cuda_runtime.h>
#include<windows.h>
#include<iostream>
using namespace std;
int main(){
int count;
cudaDeviceProp prop;
cudaGetDeviceCount(&count);
cout <<"当前计算机包含GPU数为"<< count << endl;
for (int i = 0; i < count; i++){
cudaGetDeviceProperties(&prop, i);
cout << "当前访问的是第" << i << "块GPU属性" << endl;
cout << "当前设备名字为" << prop.name << endl;
cout << "GPU全局内存总量为" << prop.totalGlobalMem << endl;
cout << "单个线程块中包含的线程数最多为" << prop.maxThreadsPerBlock << endl;
}
getchar();
return 0;
}
在cuda中一般使用cudaChooseDevice()来选取符合标准的硬件cudaChooseDevice()返回距离给定硬件标准值最近的硬件编号。我们把这个编号传递给cudaSetDevice(),然后所有的设备操作都在这个设备上进行。
#include<cuda_runtime.h>
#include<windows.h>
#include<iostream>
using namespace std;
int main(){
int count;
cudaDeviceProp prop;
cudaGetDeviceCount(&count);
cout <<"当前计算机包含GPU数为"<< count << endl;
for (int i = 0; i < count; i++){
cudaGetDeviceProperties(&prop, i);
cout << "当前访问的是第" << i << "块GPU属性" << endl;
cout << "当前设备名字为" << prop.name << endl;
cout << "GPU全局内存总量为" << prop.totalGlobalMem << endl;
cout << "单个线程块中包含的线程数最多为" << prop.maxThreadsPerBlock << endl;
}
int dev;
memset(&prop, 0, sizeof(prop));
prop.major = 1;
prop.minor = 3;
cudaChooseDevice(&dev, &prop);
cout << "距离设备版本1.3最接近的设备编号为" << dev << endl;
cudaSetDevice(dev);
getchar();
return 0;
}