Java并发编程的艺术

java并发编程的艺术

并发编程的挑战

并发编程的挑战：并发编程的目的是为了让程序运行的更快，但是并不是启动更多的线程就能让程序最大限度地并发执行。在进行并发编程时，会面临非常多的挑战，比如上下文切换问题，死锁问题，以及受限于硬件和软件的资源限制问题。

上下文切换

即使是单核的处理器也支持多线程执行代码，CPU通过给每个线程分配CPU时间片来实现这个机制。时间片是CPU分配给各个线程的时间，因为时间片非常短，所以CPU通过不停的切换线程执行，让我们感觉多个线程是同时执行的，时间片一般是几十毫秒。

CPU通过时间片分配算法来循环执行任务，当前任务执行一个时间片后会切换到下一个任务。但是在切换前会保存上一个任务的状态，以便下一次切换回这个任务时，可以再加载这个任务的状态。

多线程不一定快，因为线程有创建和上下文切换的开销。

测试上下文切换的次数和时长

使用Lmbench3可以测量上下文切换的时常

使用vmstat可以测量上下文切换的次数（CS表示上下文切换的次数）

如何减少上下文切换

1、无锁并发编程：多线程竞争锁时会引起上下文切换，所以多线程处理数据时可以使用一些办法来避免使用锁，如将数据的Id根据Hash算法取模分段，不同的线程处理不同端的数据

2、CAS算法

3、使用最小线程：避免创建不需要的线程，比如任务很少，但是创建了大量的线程来处理，这样会让大量的线程处于等待状态。

4、协程：在单线程里实现多任务的调度，并在单线程里维持多个任务间的切换。

死锁问题

两个线程互相等待对方释放锁会引发死锁。

避免死锁的方法：

1、避免一个线程同时获取多个锁

2、避免一个线程在锁内同时占用多个资源。

3、尝试使用定时锁

4、数据库锁，加锁和解锁必须在一个数据库连接中

资源限制的挑战

资源限制是指在进行并发编程时，程序的执行速度受限于计算机硬件资源或软件资源。

硬件资源限制有带宽的上传下载速度，硬盘读写速度，CPU的处理速度

软件的资源限制有数据库的连接数，Socket连接数等

资源限制引发的问题

在并发编程中将代码执行速度加快的原则是将串行执行的部分变成并发执行，但是如果将某段串行执行的代码并发执行，反而会更慢，因为增加了上下文切换和资源调度的时间。

如何解决资源限制的问题

硬件资源限制：使用集群并行执行程序

软件资源限制：使用资源池将资源复用，比如使用连接池将数据库和socket连接复用。

java并发机制的底层实现原理

Volatile

volatile的应用

volatile是轻量级的synchronized,它在多处理器开发中保证了共享变量的可见性，即当一个线程修改一个共享变量后，另一个线程能读到这个修改的值。

如果volatile使用恰当的话，它比synchronized的使用和执行成本更低，因为它不会引起线程上下文切换和调度。

volatile的定义与实现原理

Java编程语言允许线程访问共享变量，为了确保共享变量能准确和一致的更新，线程应该确保通过排他锁单独获得这个变量。如果一个字段被声明成volatile，java线程内存模型确保所有线程看到这个变量的值是一致的。

有volatile变量修饰的共享变量进行写操作时会多出第二行汇编代码，Lock前缀的指令在多核处理器下会引发两件事情。

java代码如下

instance=new instance()；//instance是volatile变量

转变成汇编代码，如下：

0x01a3deld: movb $00,01104800(%esi);0x01a3de24:lock add1 $0*0,(%esp);

1）将当前处理器缓存行的数据写回到系统内存

2）这个写回内存的操作会使在其他CPU里缓存了该内存地址的数据无效

volatile的使用优化

著名的java并发编程大师Doug lea在JDK 7的并发包里新增一个队列集合leiLInked-TransferQueue,它在使用volatile变量时通过用一种追加字节的方式来优化队列出队和入队的性能。因为在一些常见的处理器的L1、L2、L3缓存的高速缓存行是64个字节宽，不支持部分行填充，这意味着，如果队列的头节点和尾节点都不足64字节的话，处理器会将它们都读到一个高速缓存行中，在多处理器下每个处理器都会缓存同样的头，尾节点，当一个处理器试图修改头节点时，会将整个缓存行锁定，那么在缓存一致性机制的作用下，会导致其他处理器不能访问自己高速缓存中的尾节点，而队列的入队和出队则需要不停的修改头节点和尾节点，所以在多处理器的情况下将会严重影响到队列的入队和出队效率。Doug lea 使用追加到64字节的方式来填满高速缓冲区的缓冲行，避免头节点和尾节点加载到同一个缓存行，使头、尾节点在修改时不会相互锁定

注意：在使用volatile变量时不是都应该追加到64字节

1）缓存行非64字节宽的处理器

2）共享变量不会被频繁的写