CUDA的cublas 和 Intel的MKL 矩阵运算对比

最新推荐文章于 2024-08-07 10:25:23 发布

Soiliml

最新推荐文章于 2024-08-07 10:25:23 发布

阅读量6.4k

点赞数 4

分类专栏： GPU编程文章标签：技术 cuda mkl 矩阵运算 GPU编程

本文链接：https://blog.csdn.net/soiliml/article/details/47810835

版权

本文探讨了CUDA的cublas和Intel的MKL在矩阵运算上的性能差异，发现在小矩阵运算时，MKL表现更优；而随着矩阵增大，cublas的计算速度逐渐超越MKL。对于RNN中常见的小矩阵运算，如隐藏层为200的情况，使用cublas反而可能慢于CPU上的MKL。因此，GPU加速时必须考虑矩阵大小的因素。

摘要由CSDN通过智能技术生成

CUBLAS和MKL都是快速矩阵运算的工具。一个适用Intel的cpu，一个适用于nvidia的GPU。

最近在做RNN(循环神经网络)的加速。其中一点就是把神经网络的矩阵运算放到CPU上算。所以就做了一点相关的测试。

以前我们实验室的RNN用的运算库是MKL 改到CUDA上加速之后，发现不仅没有加速，速度还变慢了！

一直以为是代码写错了。查了好久才发现是因为： mkl适合频繁小矩阵相乘 cuda适合不频繁大矩阵相乘

这是我做的测试：

cublas & mkl 速度小测试： (float) ：

	matrix_size:10; calc_times:10^7	matrix_size:100; calc_times:1000000	matrix_size:1000; calc_times:1000	matrix_size:10000; calc_times:1	matrix_size:30000; calc_times:1
mkl	5.231s	26.73s	7.089s	7.088s	2m20.647s
cublas