【C++】基础：CUDA并行编程入门

😏★,°:.☆(￣▽￣)/$:.°★ 😏
这篇文章主要介绍cuda入门。
学其所用，用其所学。——梁启超
欢迎来到我的博客，一起学习，共同进步。
喜欢的朋友可以关注一下，下次更新不迷路🥞

😏1. cuda并行编程介绍

当使用CUDA（Compute Unified Device Architecture）进行并行计算时，我们可以利用GPU（图形处理器）的强大性能来加速各种应用程序。

😊2. cuda向量加法示例

下面演示一下用cuda在GPU上执行向量加法：

// vector_add.cu
#include <stdio.h>

// CUDA核函数，用于在GPU上执行向量加法
__global__ void vectorAdd(int *a, int *b, int *c, int size) {
    // 获取当前线程的索引
    int tid = blockIdx.x * blockDim.x + threadIdx.x;

    // 确保线程索引在向量大小范围内
    if (tid < size) {
        // 计算向量元素相加结果
        c[tid] = a[tid] + b[tid];
    }
}

int main() {
    int size = 1000;
    int a[size], b[size], c[size];

    // 在设备上分配内存空间
    int *dev_a, *dev_b, *dev_c;
    cudaMalloc((void**)&dev_a, size * sizeof(int));
    cudaMalloc((void**)&dev_b, size * sizeof(int));
    cudaMalloc((void**)&dev_c, size * sizeof(int));

    // 初始化输入向量 a 和 b
    for (int i = 0; i < size; ++i) {
        a[i] = i;
        b[i] = i * 2;
    }

    // 将输入向量 a 和 b 复制到设备内存
    cudaMemcpy(dev_a, a, size * sizeof(int), cudaMemcpyHostToDevice);
    cudaMemcpy(dev_b, b, size * sizeof(int), cudaMemcpyHostToDevice);

    // 定义每个块中的线程数和块数
    int threadsPerBlock = 256;
    int blocksPerGrid = (size + threadsPerBlock - 1) / threadsPerBlock;

    // 调用 CUDA 核函数执行向量加法
    vectorAdd<<<blocksPerGrid, threadsPerBlock>>>(dev_a, dev_b, dev_c, size);

    // 将计算结果从设备复制到主机内存
    cudaMemcpy(c, dev_c, size * sizeof(int), cudaMemcpyDeviceToHost);

    // 打印结果向量 c 的前10个元素
    for (int i = 0; i < 10; ++i) {
        printf("%d ", c[i]);
    }
    printf("\n");

    // 释放设备上的内存空间
    cudaFree(dev_a);
    cudaFree(dev_b);
    cudaFree(dev_c);

    return 0;
}

例程中，首先在主机内存中定义输入向量 a 和 b，并分配设备内存空间来存储输入和输出向量。然后，使用 cudaMemcpy 函数将输入向量从主机内存复制到设备内存。

接下来，定义了每个块中的线程数和块数，并调用了CUDA核函数 vectorAdd 来执行向量加法。该核函数使用线程索引来确定每个线程要处理的向量元素，并将加法结果存储在输出向量 c 中。

最后，使用 cudaMemcpy 函数将输出向量从设备内存复制回主机内存，并打印输出向量的前10个元素。最后，释放在设备上分配的内存空间。

用NVCC编译器编译cu程序：nvcc vector_add.cu -o vector_add

😆3. 将cuda高性能运算嵌入c++程序

在大型C++程序中，可以使用CUDA来加速特定的计算任务。下面演示一个程序：

// main.cpp
// 包含必要的头文件和声明CUDA函数
#include <iostream>

// CUDA函数声明
extern "C" void cudaFunction();

int main() {
    std::cout << "Running C++ code..." << std::endl;

    // 调用CUDA函数
    cudaFunction();

    std::cout << "C++ code completed." << std::endl;

    return 0;
}

// cuda_code.cu
#include <stdio.h>

// CUDA函数定义
__global__ void kernelFunction() {
    printf("Running CUDA code...\n");
}

extern "C" void cudaFunction() {
    // 设置GPU设备并在设备上执行CUDA核函数
    cudaSetDevice(0);
    // cuda_kernel<<<nBlock,nThread>>>();
    kernelFunction<<<1, 1>>>();
    cudaDeviceSynchronize();
}

编译步骤如下：

nvcc -c cuda_code.cu -o cuda_code.o
g++ -c main.cpp -o main.o
g++ cuda_code.o main.o -o cuda_cpp -lcudart -L/usr/local/cuda/lib64

这样，就可以将CUDA函数嵌入到C++程序中，并在运行时通过调用C++代码来触发CUDA函数的执行。

以上。