jianjianheng的博客

原创 令人头秃的cudaTensorCoreGemm详解

我曾被cudaTensorCoreGemm的代码苦苦折磨了一个月，官方文档也不够详细，代码虽然很多注释也不太好理解，于是决定自己写一个cudaTensorCore的详解。本文主要对cudaTensorCore中的compute_gemm函数进行分析。 Compute_gemm函数流程图如下图所示： Cuda wmma API主要用于使用SM中WARP和TensorCore加速矩阵乘加运算，标准公式如下（大写字母均为矩阵）：D=α×A×B+β×C 其中A矩阵为M×K，B...