并行方法openMP和MPI介绍与比较

并行处理parallel processing

并行处理是计算机系统中能同时执行两个或多个处理的一种计算方法。并行处理可同时工作于同一程序的不同方面，可以节省大型和复杂问题的解决时间。要想使并行处理，首先要对程序进行并行化处理，也就是说将工作的部分分配到不同线程中。并行处理由于存在相互关联的问题，因此不能自动实现。常用的程序并行处理方法有openMP和MPI。
openMP特点：线程级；共享存储；隐式（数据分配方式）；可扩展性差
MPI特点：进程级；分布式存储；显示；可扩展性好

openMP

openmp是由OpenMP Architecture Review Board 牵头提出，用于共享内存并行系统的多处理器程序设计的一套指导性编译处理方案。openMP支持C/C++和Fortran;支持openMP的编译器包括 Sun Compiler、GUN Compiler 、Intel Compiler等。OpenMp提供了对并行算法的高层的抽象描述，程序员通过在源代码中加入专用的pragma来指明自己的意图，由此编译器可以自动将程序进行并行化，并在必要之处加入同步互斥以及通信。当选择忽略这些pragma，或者编译器不支持OpenMp时，程序又可退化为通常的程序(一般为串行)，代码仍然可以正常运作，只是不能利用多线程来加速程序执行。
优点：降低了并行编程的难度和复杂度

OpenMP提供的这种对于并行描述的高层抽象降低了并行编程的难度和复杂度，这样程序员可以把更多的精力投入到并行算法本身，而非