最近由于研究需要和兴趣看了很多稀疏矩阵乘法的算法,这方面的研究千奇百怪,研究人员真的是十八般武艺全都用上了,好吧,就让我来说说这个东西吧,由于这个东西实在方法太多,所以请容许我一节一节地去完善。
1、存储方式
稀疏矩阵的存储方式真的非常多,也各有千秋,它们包括CSR(许多库的首选存储方式),COO(MATLAB存储稀疏矩阵的方式),CSC(这个也可以看成是CSR,做个转置就完了),ELL等等。最近还看到了一种aligned-COO的存储方式。虽然有那么多种存储方式,但思想都是接近的,比如说CSR吧,就是只存储非零元素val,然后把列标都记录下来col_ptr,行标取每行第一个数在val中的位置。就不举例子了,网上说得很全。
2、CUDA并行的计算方法
其实CUDA最重要的事情有两个方面,一个是对全局内存的访问,另一个是所有线程的divergence的问题。所以存储结构和实现方法是相当重要的,我首先讲两个最简单的基于CSR存储的实现方法,一种是利用每个block算一列,另一种是利用每个block算一行。
其实这俩方法都挺简单,没有做任何优化的话还是直接贴代码吧,等我想想优化怎么写再详细说说:
每个block计算一列:
while (row<M)
{
index_start