之前关于tensor core的介绍可以参考链接添加链接描述
基础的tensor core实现C=AB的代码可以参考下面这段内容:
上面代码的几个注意事项:
首先是加载mma.h头文件,这个是包含wmma模板类的头文件。
其次是设置的WMMA_M=16,WMMA_N=16,WMMA_K=8,这三个参数的表示的意思是,对于一个线程块内的一个warp来说,这个线程簇warp一次能处理的是[16,8]@[8,16]这样小矩阵乘法。
wmma::fragment<wmma::ma
之前关于tensor core的介绍可以参考链接添加链接描述
基础的tensor core实现C=AB的代码可以参考下面这段内容:
上面代码的几个注意事项:
首先是加载mma.h头文件,这个是包含wmma模板类的头文件。
其次是设置的WMMA_M=16,WMMA_N=16,WMMA_K=8,这三个参数的表示的意思是,对于一个线程块内的一个warp来说,这个线程簇warp一次能处理的是[16,8]@[8,16]这样小矩阵乘法。
wmma::fragment<wmma::ma