Matlab之GPU加速方法

Matlab之GPU加速方法

一般代码加速方法

Matlab目前只支持Nvidia的显卡。

GPU设备确认

想知道自己的电脑有没有这个能力,在Matlab中运行 gpuDevice
只要数据格式是gpuArray格式的,那么计算过程会自动的调用GPU进行计算。

GPU和CPU之间数据传递

  • gpuArray
    I) 将CPU内存数据传到GPU内存中
X=rand(10,'single'); %定义在CPU上的一个10x10的随机初始化数组
   GX=gpuArray(X);      %在GPU开始数组GX,并且将X的值赋给GX
   GX2=GX.*GX%GPU上执行数组对应位置的点乘

还有很多支持 gpuArray 数据类型的函数,具体可以用 methods(‘gpuArray’) 查看。下列某函数的说明可以用 help gpuArray/functionname 查看:

gpuArray.ones   gpuArray.colon
gpuArray.zeros  gpuArray.rand
gpuArray.inf    gpuArray.randi
gpuArray.nan    gpuArray.randn
gpuArray.true   gpuArray.linspace
gpuArray.false  gpuArray.logspace
gpuArray.eye

其实,这些函数的用法和对应的普通函数的用法都是类似的。

II = gpuArray.eye(1024,'int32');
size(II)
ans=1024 1024

II)在GPU内存中随机初始化一些内存数据。

GX=rand(10,'gpuArray'); %直接在GPU设备上随机初始化一个10x10的数组
%%常用的随机初始化函数有:eye, ones, zeros, rand, randi, randn.
  • gather
    将GPU内存中的数据拷贝回CPU内存中。
X2=gather(GX2)       %将GPU内存中的数组GX2赋值给CPU中的X2

TIPS
有时候GPU受限于硬件架构,单精度的计算远快于双精度。这时候可以考虑在拷贝的时候顺便转换一下精度 A = gpuArray(single(B)) 。

复杂代码加速方法

对于一些复杂的,无法用matlab内部函数进行GPU加速的代码,matlab还提供了一个更强大的工具,就是调用.cu文件。

matlab+c混合编程把.c,.cc,.cpp等文件编译为能够使用的mex文件。对于CUDA程序.cu,matlab也提供了一套方法来调用,最终编译成.ptx文件。

阅读更多
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/laoxuan2011/article/details/52473360
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

关闭
关闭
关闭