Java并发机制的底层实现原理--Java并发编程的艺术读书笔记

参考书籍：《Java并发编程的艺术》
Java代码在编译后会变成Java字节码，字节码被类加载器加载到JVM里，JVM执行字节码，最终需要转化成汇编指令在CPU上运行，Java中使用的并发机制依赖于JVM的实现和CPU的指令。

1 volatile的实现原理

  volatile是轻量级的synchronized，在并发中保证了共享变量的”可见性“。可见性是指当一个线程修改一个共享变量时，另一个线程能读到这个修改的值。如果volatile使用恰当，能够比synchronized使用和执行成本更低，因为它不会引起线程上下文的切换和调度。
  以下为在X86处理器下通过工具获取JIT编译器生成的汇编指令查看对volatile进行写操作，CPU会发生什么。
Java代码如下：

instance = new Singleton();

转变成汇编代码，如下：

0x01a3deld: movb $0x0, 0x1104800 (%esi); 
0x01a3de24: lock add1 $0x0, (%esp);

volatile修饰的共享变量进行写操作时会多出第二行汇编代码，Lock前缀的指令在多核处理器下会引发两件事情：
1、讲当前处理器缓存行的数据写回到系统内存
2、这个写回内存的操作会时其他CUP里缓存了该内存地址的数据无效
在多处理机下们为了保证各处理器的缓存是一致的，会实现缓存一致性协议，每个处理器通过嗅探在总线上传播的数据来检查自己缓存的值是否过期了，当处理器发现自己缓存行对应的内存地址被修改，就会讲当前处理器的缓存行设置为无效状态，当处理器对这个数据进行修改操作时，会重新从系统内存中把数据读到处理器缓存里。

2 synchronized的实现原理

  多线程并发编程中，synchronized被很多人成为重量级锁。但是随着Java SE 1.6对synchronized进行了各种优化后，有些情况它就不那么重了。synchronized实现同步的基础：Java中的每个对象都可以作为锁，具体表现形式为以下三种：
1、对于普通同步方法，锁是当前实例对象
2、对于静态同步方法，锁是当前类的Class对象
3、对于同步方法块，锁是synchronized括号里的配置的对象
  当一个线程访问同步代码块时，它必须先得到锁，退出或者抛出异常时必须释放锁。

2.1 Java对象头

  synchronized的锁时存在Java对象头里的。32位JVM，1字宽等于4字节，对于数组类型，虚拟机用3字宽（Word，即12字节）存储对象头，如果是非数组类型，则用2字宽（8字节）存储对象头。

Java对象头里的Mark Word里默认存储对象的HashCode、分代年龄和锁标记位。

在运行期间，Mark Word里存储的数据会随着锁标志位的变化而变化，有以下四种：

在64位虚拟机下，Mark Word时64bit大小的存储结构如下所示：

2.2 锁的升级与对比

  Java SE 1.6为了减少获得锁和释放锁带来的性能消耗，引入了偏向锁和轻量级锁，锁一共有四种状态，级别从低到高依次是：无锁状态、偏向锁状态、轻量级锁状态和重量级锁状态，这四种状态会随着竞争情况逐渐升级。锁可以升级但不能降级，目的是提高获得锁和释放锁的效率。

2.2.1 偏向锁

  Hotspot的作者经过研究发现，大多数情况下，锁不存在多线程竞争中，而是由同一线程多次获得，为了让线程获得锁的代价更低引入了偏向锁。
  当一个线程获取锁时，会在对象头和栈帧中的锁记录里存储锁偏向的线程ID，以后该线程在进入和退出同步块时不需要进行CAS操作来加锁和解锁，只需测试一下对象头的Remark Word里是否存储着指向当前线程的偏向锁，如果有，表示线程已经获得了锁，如果没有，需要在测试Mark Word中偏向锁的标识是否设置位1，如果没有，就使用CAS竞争锁，如果设置了，就尝试使用CAS讲对象头的偏向锁指向当前进程。

2.2.1.1 偏向锁的撤销

  偏向锁的撤销使用了等到竞争出现才释放锁的机制，偏向锁的撤销需要等待全局安全点（这个时间点上没有正在执行的字节码），它会首先暂停拥有偏向锁的进程，然后检查该进程是否活着，如果不处于活动状态，则讲对象头设置成无锁状态，如果线程仍然活着，拥有偏向锁的栈会被执行，遍历偏向对象的锁记录，栈中的锁记录和对象头的Mark Word要么重新偏向于其他线程，要么恢复到无锁或者标记对象不适合作为偏向锁，最后唤醒暂停的线程。

2.2.1.2 关闭偏向锁

偏向锁在Java 6和Java 7中是默认启用的，但是在程序启动几秒钟后才激活，可以使用JVM参数来关闭延迟：

-XX:BiasedLockingStartupDelay=0

如果程序里所有的锁通常情况下都处于竞争状态，可以通过JVM参数关闭偏向锁，那么程序默认进入轻量级锁状态：

-XX:-UseBiasedLocking=false

2.2.2 轻量级锁

2.2.2.1 轻量级锁加锁

  线程在执行同步块之前，JVM会在当前线程的栈帧中创建用于存储锁记录的空间，并将对象头的Mark Word复制到锁记录中，成为Displaced Mark Word，然后线程尝试使用CAS将对象头中的Mark Word替换为指向锁记录的指针，如果成功，当前线程获得锁，如果失败，表示其他线程竞争锁，当前线程便尝试使用自选来获得锁。

2.2.2.2 轻量级锁解锁

  轻量级锁解锁时，会使用原子的CAS操作将Displaced Mark Word替换会对象头，如果成功，表示没有竞争发生，如果失败，表示当前锁存在竞争，锁就会膨胀成重量级锁。

  因为自旋会消耗CPU，为了避免无用的自旋（比如获得锁的线程被阻塞住了），一旦锁升级成重量级锁，就不会再恢复成轻量级锁。当锁处于重量级锁时，其他线程试图获取锁时，都会被阻塞住，当持有锁的线程释放锁之后会唤醒这些线程，被唤醒的线程就会进行新一轮的夺锁之争。

2.2.3 锁的优缺点对比

3 原子操作的实现原理

原子操作指不可被终端的一个或系列操作。缓存行：缓存的最小操作单位。

3.1 处理器实现原子操作

  32位IA-32处理器使用对总线加锁或者缓存加锁来实现多处理器之间的原子操作。首先处理器会保证基本的内存·操作的原子性，处理器从系统内存中读取和写入一个字节时原子的。

3.1.1 总线锁

  如果多个处理器同时对共享变量进行读改写操作（i++就是经典的例子），就有可能导致多次操作后共享变量的值会和期望的值不一样。所谓总线索就是使用处理器提供的一个==LOCK #==信号，当一个处理器再总线上输出此信号时，其他处理器的请求将被阻塞住，那么该处理器可以独占共享内存。

3.1.2 缓存锁

  总线锁定把CPU和内存之间的通信锁住了，这使得锁定期间，其他处理器甚至不能操作其他内存地址的数据，所以总线锁定的开销比较大。缓存锁定开销更小，所谓缓存锁定就是指内存区域如果被缓存到处理器的缓存行中，并且在Lock操作期间被锁定，那么当它执行锁操作回写到内存时，处理器修改内部的内存地址，并允许缓存一致性来保证操作的原子性。缓存一致性是当一个处理器修改缓存行中的数据时进行了缓存锁定，那么其他处理器不能同时缓存数据的缓存行。
  有两种情况处理器不会使用缓存锁定：
1、当操作的数不能被缓存在处理器内部，或操作的数据跨多个缓存行时，处理器会调用总线锁定
2、有些处理器不支持缓存锁定，例如Intel 486和Pentium

3.2 Java实现原子操作

Java中通过锁和循环CAS来实现原子操作。

3.2.1 锁机制

  锁机制保证了只有获得锁的线程才能够操作锁定的内存区域。JVM内部实现了多种锁机制，有偏向锁、轻量级锁和互斥锁。除了偏向锁，其他都使用了循环CAS，即当一个线程想进入同步块的时候使用循环CAS的方式来获得锁，当它退出同步块时使用循环CAS释放锁。

3.2.2 循环CAS

3.2.2.1 循环CAS实现原子操作

  JVM中的CAS操作利用了处理器提供的CMPXCHG指令实现，自旋CAS实现的基本思路时循环进行CAS操作直到成功为止，以下代码实现了一个基于CAS线程安全的计数器safeCount和非线程安全的计数器count：

public class Counter {

    private AtomicInteger atomicI = new AtomicInteger(0);
    private int i = 0;

    public static void main(String[] args) {
        final Counter cas = new Counter();
        List<Thread> ts = new ArrayList<>(600);
        long start = System.currentTimeMillis();
        for(int j=0;j<100;j++){
            Thread t = new Thread(new Runnable() {
                @Override
                public void run() {
                    for(int i = 0;i<10000;i++){
                        cas.count();;
                        cas.safeCount();;
                    }
                }
            });
            ts.add(t);
        }
        for(Thread t: ts){
            t.start();
        }
        for(Thread t:ts){
            try {
                t.join();
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
        System.out.println(cas.i);
        System.out.println(cas.atomicI.get());
        System.out.println(System.currentTimeMillis()-start);
    }

    //使用CAS实现线程安全计数器
    private void safeCount(){
        for(;;){
            int i = atomicI.get();
            boolean suc = atomicI.compareAndSet(i,++i);
            if(suc){
                break;
            }
        }
    }
    //非线程安全计数器
    private void count(){
        i++;
    }
}

3.2.2.2 循环CAS三大问题

1、ABA问题
  因为CAS需要在操作值时候，检查值有没有改变，如果没有发生变化则更新，但是如果一个值原来是A，便成了B，又变成了A，那么使用CAS进行检查会发现它的值没有发生变化，但是实际上却变化了。
  解决思路：使用版本号，在变量面前追加版本号，每次变量更新的时候把版本号加1，那么A->B->A变成1A->2B->3A.
2、循环时间长开销大
  自旋CAS如果尝试几件不成功，会给CPU带来非常大的执行开销。
  解决思路：如果JVM执行处理器提供的pause指令，那么效率有一定提升。pause指令可以延迟流水线执行指令，且避免退出循环时因内存顺序冲突引起CPU流水线被清空。
3、只能保证一个共享变量的原子操作
  对多个共享变量时，循环CAS就无法保证操作的原子性，这个时候可以用锁，或者把多个共享变量合并成一个共享变量来操作。