cublas 实战

最新推荐文章于 2024-06-24 10:45:46 发布

thesby

最新推荐文章于 2024-06-24 10:45:46 发布

阅读量1.2w

点赞数 5

分类专栏： caffe 文章标签： cuda c语言

本文链接：https://blog.csdn.net/thesby/article/details/52728529

版权

本文介绍了如何使用cublas库进行CUDA编程，以提高矩阵运算的效率。通过入门指南和实例，展示了如何利用cublas进行浮点数乘法，并解释了列优先存储和矩阵转置的概念。最后，给出了一个简单的cublasSgemv函数应用示例，用于实现特定的矩阵向量运算。

摘要由CSDN通过智能技术生成

导言

搞了一段时间的CUDA程序，虽然也不是写不出复杂程序，但是写个矩阵乘法都要搞个半天，还要担心各种性能瓶颈。不过，还好有cublas，实现了非常多的数学运算，这下子可以好好利用一番。以后再也不用担心自己写的CUDA效率不高了。

入门

cuBLAS的官方文档再这里，不懂的函数可以查。

cublas和matlab非常像，存储数组时，默认是列优先存储，而且是从1开始的。从C转过来，非常不习惯，不过你可以自己设置。

用 cublas之前你必须还是得会基本的CUDA，比如如何管理GPU显存。这里假设你都会了。

实例一

#include <stdio.h> 
#include <stdlib.h> 
#include <math.h>
#include <cuda_runtime.h> 
#include "cublas_v2.h" 

#define M 6 
#define N 5 
#define IDX2F(i,j,ld) ((((j)-1)*(ld))+((i)-1)) 

static __inline__ 
void modify(cublasHandle_t handle, float *m, int ldm, int n, 
            int p, int q, float alpha, float beta) {
    cublasSscal(handle, n - p + 1, &alpha, &m[IDX2F(p, q, ldm)], ldm);
    cublasSscal(handle, ldm - p + 1, &beta, &m[IDX2F(p, q, ldm)], 1);
}
int main(void) {
    cudaError_t cudaStat;
    cublasStatus_t stat;
    cublasHandle_t handle;
    int i, j;
    float* devPtrA;
    float* a = 0;
    a = (float *)malloc(M * N * sizeof(*a));
    if (!a) {
        printf("host memory allocation failed");
        return EXIT_FAILURE;
    }
    for (j = 1; j <= N; j++) {
        for (i = 1; i <= M; i++) {
            a[IDX2F(i, j, M)] = (float)((i - 1) * M + j);
        }
    }
    cudaStat = cudaMalloc((void**)&devPtrA, M*N*sizeof(*a));
    if (cudaStat != cudaSuccess) {
        printf("device memory allocation failed"); return EXIT_FAILURE;
    }
    stat = cublasCreate(&handle);
    if (stat != CUBLAS_STATUS_SUCCESS) {
        printf("CUBLAS initialization failed\n");
        return EXIT_FAILURE;
    }
    stat = cublasSetMatrix(M, N, sizeof(*a), a, M, devPtrA, M);
    if (stat != CUBLAS_STATUS_SUCCESS) {
        printf("data download failed");
        cudaFree(devPtrA); 
        cublasDestroy(handle);
        return EXIT_FAILURE;
    }
    modify(handle, devPtrA, M, N, 2, 3, 16.0f, 12.0f);
    stat = cublasGetMatrix(M, N, sizeof(*a), devPtrA, M, a, M);
    if (stat != CUBLAS_STATUS_SUCCESS) {
        printf("data upload failed");
        cudaFree(devPtrA); cublasDestroy(handle);
        re