并行编程模式
1、map模式
对每个数据施加同样的运算,从这个表述来说,它表现出了数据并行的特征。
算法的粒度:
某些应用在一种粒度上看是map模式,而另一种粒度上看 不是map模式。
2、reduce模式:
从多个输入中产生一个输出 ,在不考虑误差的前提下,输出与输入的多个数据无关。
3、scan模式:
也就前缀和,一般来说不用于串行算法中,
串行算法的实现 :
由于第i个结果是i-1个结果加上输入第i个数据的和,因此就可以使用一个临时变量来保存累加和的结果 。
并行算法的实现 :
每个核心计算一个或多个数据块;对每个数据块的结果做串行scan,如计算量不大,串行处理;
每个核心计算一个或多个数据块的scan,这可做多线程处理
如何并行化遗留代码:
一般 来说有两种方法:部分并行与整体并行
1、找出软件计算热点 (常用工具gprof valgrind.......)
2、判断是否可并行化