并行、并发和代码性能优化

1、并行：是指在具有多个处理单元的系统上，通过将计算或者数据分割为多个部分，将各个部分分配到不同的处理单元上，各处理单元相互协作，同时运行，已达到加快求解速度或者提高求解问题规模的目的。并行意味着多个控制流（线程）同时执行，需要再各个控制流之间划分任务和数据，并去除依赖。

2、向量化：指的是使用同一条指令同时操作多个数据，意味着同时操作多个数据，并且需要处理向量内要处理的数据的依赖关系。

2、并发：值在一个处理单元上运行多个应用，哥个应用分时占用处理单元，是一种微观上串行、宏观上并行的模式，有时也称之为时间域的串行、空间域的并行。

3、代码性能优化：指的是通过调整源代码，使得其生成的机器指令能够更高效地执行，通常的高效指的是执行时间少、使用的存储空间少、计算的问题的规模更大。

参考文献：
[1]刘文志. 并行算法设计与性能优化.2016, 机械工业出版社.