并行编程——分割和同步

一.分割

1. 引子

要使得网络吞吐量最大，各层之间垂直并行化（管道间并行化）+层内数据并行化（也叫水平并行化）。

2.水平并行化

哲学家就餐问题

特点：处理数据之间的线程没有数据依赖关系。在数据处理型的系统中，“数据并行化”是指一种类型的数据只会被多个同类型软件中的一个所处理。

3.垂直并行化

双端队列

特点：双端队列的实现是“ 垂直并行化”或者“管道”的极佳例子，因为数据从一个线程转移到另一个线程。

create_thread(concurrent_ppush, (void *)&dtenq1);	//队列1的push线程
create_thread(concurrent_ppush, (void *)&dtenq2);	//队列2的push线程

create_thread(concurrent_ppop, (void *)&dtdeq1);	//队列1的pop线程
create_thread(concurrent_ppop, (void *)&dtdeq2);	//队列2的pop线程

二.同步

1.同步粒度

1）单线程程序——不需要任何锁。

2）代码锁——代码锁是最简单的设计，代码锁就是一个全局锁，这个锁被所有线程共享。

3）数据锁——顾名思义，是数据结构中的锁，用来锁数据结构中的数据。也就是说每一个数据结构实例，都有自己的锁，而不再是一个类似于代码锁的全局锁。许多数据结构都可以分割，数据结构的每个部分带有一把自己的锁。这样虽然每个部分一次只能执行一个临界区，但是数据结构的各个部分形成的临界区就可以并行执行了。

4）数据所有权——即私有数据。数据所有权方法按照线程或者CPU个数分割数据结构，在不需要任何同步开销的情况下，每个线程或者CPU都可以访问属于它的子集。举个常见的例子——任何只能被一个CPU或者一个线程访问的变量(C或者C++中的auto变量)都属于这个CPU或者这个进程。