摘自[1]http://blog.sina.com.cn/s/blog_57562d890100xj3l.html
一、引言
在“一起来学OpenMP(1)——初体验”中给出了一个for循环并行化的例子,这里做进一步的分析,但本节仅描述for循环并行化的基本用法(即#pragma omp parallel for预处理器指示符),该用法需要满足数据不相关性。
二、数据相关性
在循环并行化时,由于多个线程同时执行循环,迭代的顺序是不确定的。如果是数据不相关的,则可以采用基本的#pragma omp parallel for预处理器指示符。
如果语句S2与语句S1相关,那么必然存在以下两种情况之一:
1. 语句S1在一次迭代中访问存储单元L,而S2在随后的一次迭代中访问统一存储单元,称之为循环迭代相关(Loop-Carried Dependence);
2. S1和S2在同一循环迭代中访问统一存储单元L,但S1的执行在S2之前,称之为非循环迭代相关(Loop-Independent Dependence)。
三、for循环并行化的几种声明形式
- #include <iostream>
- #include <omp.h> // OpenMP编程需要包含的头文件
-
- int main()
- {
-
- #pragma omp parallel
- {
- #pragma omp for
- for (int i = 0; i < 10; ++i)
- {
- std::cout << i << std::endl;
- }
- }
-
-
- #pragma omp parallel for
- for (int j = 0; j < 10; ++j)
- {
- std::cout << j << std::endl;
- }
- return 0;
- }
上边代码的两种声明形式是一样的,很显然第二种声明形式更为简洁紧凑。
但是第一种声明形式有一个好处,即可以在并行区域内、for循环以外写其他并行代码。
例如:
- #include <iostream>
- #include <omp.h> // OpenMP编程需要包含的头文件
-
- int main()
- {
-
- #pragma omp parallel
- {
- std::cout << "OK" << std::endl;
- #pragma omp for
- for (int i = 0; i < 10; ++i)
- {
- std::cout << i << std::endl;
- }
- }
-
-
- #pragma omp parallel for
-
- for (int j = 0; j < 10; ++j)
- {
- std::cout << j << std::endl;
- }
- return 0;
- }
四、for循环并行化的约束条件
尽管OpenMP可以方便地对for循环进行并行化,但并不是所有的for循环都可以进行并行化。以下几种情况不能进行并行化:
1. for循环中的循环变量必须是有符号整形。例如,for (unsigned int i = 0; i < 10; ++i){}会编译不通过;
2. for循环中比较操作符必须是<, <=, >, >=。例如for (int i = 0; i != 10; ++i){}会编译不通过;
3. for循环中的第三个表达式,必须是整数的加减,并且加减的值必须是一个循环不变量。例如for (int i = 0; i != 10; i = i + 1){}会编译不通过;感觉只能++i; i++; --i; 或i--;
4. 如果for循环中的比较操作为<或<=,那么循环变量只能增加;反之亦然。例如for (int i = 0; i != 10; --i)会编译不通过;
5. 循环必须是单入口、单出口,也就是说循环内部不允许能够达到循环以外的跳转语句,exit除外。异常的处理也必须在循环体内处理。例如:若循环体内的break或goto会跳转到循环体外,那么会编译不通过。
举例1:
- #include <iostream>
- #include <omp.h> // OpenMP编程需要包含的头文件
-
- int main()
- {
- int a[10] = {1};
- int b[10] = {2};
- int c[10] = {0};
-
- #pragma omp parallel
- {
- #pragma omp for
- for (int i = 0; i < 10; ++i)
- {
-
- c[i] = a[i] + b[i];
- }
- }
-
- return 0;
- }
嵌套循环:
- #include <iostream>
- #include <omp.h> // OpenMP编程需要包含的头文件
-
- int main()
- {
- int a[10][5] = {1};
- int b[10][5] = {2};
- int c[10][5] = {0};
-
- #pragma omp parallel
- {
- #pragma omp for
- for (int i = 0; i < 10; ++i)
- {
- for (int j = 0; j < 5; ++j)
- {
-
- c[i][j] = a[i][j] + b[i][j];
- }
- }
- }
-
- return 0;
- }
cpu完成情况:
(1)编译器会让第一个cpu完成:
- for (int i = 0; i < 5; ++i)
- {
- for (int j = 0; j < 5; ++j)
- {
-
- c[i][j] = a[i][j] + b[i][j];
- }
- }
(2)
编译器会让第二个cpu完成:
- for (int i = 5; i < 10; ++i)
- {
- for (int j = 0; j < 5; ++j)
- {
-
- c[i][j] = a[i][j] + b[i][j];
- }
- }