背景
之前也写过sgemm,然后就想看看MNN是如何实现的,有没有什么可以借鉴的地方,看完之后发现MNN的实现也是简单的按行数据并行处理,记录一下。
矩阵乘法
矩阵乘法的目的是完成一个计算:C = A * B
,其中A是h * k, B是k * w,所以C是h * w。
常用的方式是分行处理,对于C的第一行,可以按如下方式处理:
C(0,j) += A(0,i)*B(i,j)
对于行主序矩阵,每一行的数据是连续存储的,我们自然可以考虑使用SIMD指令,一次处理4个(假设是Float32)数据的相乘:
float32x4_t a0 = vdupq_n_f32(aLine[i]);
float32x4_t b0 = vld1q_f32(bLine);
float32x4_t sum0 = vdupq_n_f32(0.0);
sum0 = vmlaq_f32(sum0, a0, b0);
vst1q_f32(cLine, sum0);
需要注意的一点是,如果w不能被4整除,那么需要处理边界,逐个点进行计算并赋值:
C(0,j)