本文对比了OpenMPI和MapReduce两种并行编程模型。MPI是一种消息传递模型，提供灵活的控制，适用于大规模并行计算，但需要用户处理负载均衡和容错。而MapReduce是高级计算模型，简化了编程，自动处理容错和负载均衡，但适用场景有限。
目前最重要的两种并行编程模型是数据并行和消息传递。数据并行编程模型的编程级别比较高 编程相对简单 但它仅适用于数据并行问题 消息传递编程模型的编程级别相对较低 但消息传递编程模型可以有更广泛的应用范围。
数据并行即将相同的操作同时作用于不同的数据，使用GPU进行编程的OpenGL、CUDA一般属于这一类。因此适合在SIMD及SPMD并行计算机上运行，例如在向量机上通过数据并行求解问题。
消息传递即各个并行执行的部分之间通过传递消息来交换信息、协调步伐、控制执行消息传递一般是面向分布式内存的，但是它也可适用于共享内存的并行机。 消息传递为编程者提供了更灵活的控制手段和表达并行的方法，一些用数据并行方法很难表达的并行算法，可以用消息传递模型来实现。灵活性和控制手段的多样化 是消息传递并行程序能提供的执行效率的重要原因
消息传递模型一方面为编程者提供了灵活性，另一方面 它也将各个并行执行部分之间，复杂的信息交换和协调 控制的任务交给了编程者。在一定程度上增加了编程者的负担。这也
最低0.47元/天 解锁文章
612
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
