并行程序设计整理（一）

为什么要并行计算

关于并行程序，首先思考它的目的，具体来说：

1. 为什么我们要不断提高性能? 因为计算能力的提升是很多邻域能够进步的核心。
2. 为什么我们要建立并行系统？ 因为对于单处理器而言，其性能的提升实际是提高了处理器上晶体管的密度，但受限于散热问题等，密度无法一直提升。如果考虑并行化，即生产多个相对简单的完整处理器放在一个芯片上，即多核处理器，就能解决密度问题。
3. 为什么我们要写并行程序？ 编写并行程序是为了充分发挥多核处理器的优势，然而将串行程序改写成并行程序并不顺利。

关于并行程序和串行程序，举一个例子，假设要计算$n$个数的值，并求它们的和。对于这个问题，串行代码解法如下：

sum = 0;
for (i = 0; i < n; i++) {
   
    x = Compute_next_value(...); // 求得x的值
    sum