Strassen+CUDA矩阵乘法实现550倍加速

CPU简单暴力运算

矩阵乘法C=A*B就是把A中的每一行去乘以B中的每一列，得到的数就是C中某行某列的元素，下面是简单的三层循环的实现
ma,mb指矩阵A和B的行数，na,nb列数

float* matrix_product_v1(float* matrixA, float* matrixB, int ma, int na, int mb, int nb) {
    float* ans = new float[ma * nb]{ 0 };
    for (int i = 0; i < ma; i++) {
        for (int j = 0; j < nb; j++) {
            for (int k = 0; k< na; k++) {
                ans[i * nb +j] += matrixA[i* na+k] * matrixB[k* nb+j];
            }
        }
    }
    return ans;
}

这种代码每测试一次都是一种煎熬
用生成的200M个数据测试，10000*10000的两个矩阵相乘用了140分钟，将近两个半小时

并行多线程+Strassen矩阵乘法

矩阵乘法有这么多行这么多列，很明显是并行计算的老本行。接下来我们尝试并行处理加速，为接下来CUDA做一些铺垫

先介绍一下Strassen算法：

关于Strassen算法

矩阵乘法的运算三次循环不可避免，它的时间复杂度达到恐怖的O(n^3)，对于200M数据的运算是一个天文数字。Strassen算法的核心是分治、空间交换时间、加法交换乘法。

首先将矩阵A和B拆分成分块矩阵A1, A2, A3, A4, B1, B2, B3, B4
$$\left[\begin{array}{cc}A11& A12\\ A21& A22\end{array}\right]$$

$$[\begin{array}{c}\end{array}$$