第二章 Java并发机制的底层实现原理

说明：
本文内容来自java并发编程的艺术，仅仅为了学习时加深记忆。

java代码在编译后会变成java字节码，字节码会被类加载器加载到JVM里，JVM执行字节码后，最终需要转化为汇编指令在CPU执行，java中所使用的的并发机制依赖于JVM的实现和CPU的指令。

volatile的应用

volatile是轻量级的synchronized,它在多处理器开发中保证了共享变量的可见性。
可见性的意思是当一个线程修改一个共享变量时，另外一个线程能读到这个修改的值。如果volatile使用恰当的话，它比synchronized的使用和执行成本更低，因为它不会引起线程上下文的切换和调度。

volatile的定义和实现原理

java语言规范第三版中对volatile的定义如下：java编程语言允许线程访问共享变量，为了确保共享变量能被准确和一致的更新，线程应该通过排它锁单独获得这个变量。JAVA语言提供了volatile，在某些情况下比锁更加方便。如果一个字段被声明为volatile,java线程内存模型确保所有线程看到这个变量的值是一致的。
了解volatile实现原理之前，我们先来看看与其实现原理相关的CPU术语与说明。

术语	术语描述
内存屏障	是一组处理器指令，用于实现对内存操作的顺序限制
缓冲行	缓存中可以分配的最小存储单位。处理器填写缓存线时会加载整个缓存线，需要使用多个主内存读周期
原子操作	不可中断的一个或一系列操作
缓存行填充	当处理器识别到从内存中读取操作数是可缓存的，处理器读取整个缓存行到适当的缓存
缓存命中	如果进行高速缓存行填充操作的内存位置仍然是下次处理器访问的地址时，处理器从缓存中读取操作数，而不是从内存读取
写命中	当处理器将操作数写回到一个内存缓存的区域时，它首先会检查这个缓存的内存地址是否在缓存行，如果存在一个有效的缓存行，则处理器将这个操作数写回到缓存，而并不是写回到内存，这个操作被称为写命中
写缺失	一个有效的缓存行被写入到不存在的内存区域（？）

volatile如何保证可见性的呢？

java代码如下：

volatile Singleton instance=new Singleton();

转变成汇编代码如下：

有volatile变量修饰的共享变量进行写操作的时候会多出lock add汇编代码.
lock前缀的指令在多核处理器下会引发两件事情：

1. 将当前处理器缓存行的数据写回到系统内存中
2. 这个写回内存的操作会使其他cpu里缓存了该内存地址的数据无效。

为了提高处理速度，处理器不直接和内存进行通信，而是先将系统内存的数据读到内部缓存（L1，L2或其他）后进行操作，JVM就会向处理器发送一条Lock前缀的指令，将这个变量所在缓存行的数据写回到系统内存。但是，就算写回到内存中，如果其他处理器的缓存的值还是旧的，再执行计算操作就会有问题。所以，在多处理器下，为了保证各个处理器的缓存是一致的，就会实现缓存一致性协议，每个处理器通过嗅探在总线上传播的数据来检查自己的缓存的值是不是过期了，当处理器发现自己缓存行对应的内存地址被修改，就会将当前处理器的缓存行设置为无效状态，当处理器对这个数据进行操作的时候，会重新从系统内存中把数据读到缓存里。

volatile的两条实现原则：

1. Lock前缀指令会引起处理器缓存回写到内存。
2. 一个处理器的缓存回写到内存会导致其他处理器的缓存无效。

sychronized的实现原理与应用

很多人称呼sychronized为重量级锁。但是再javaSE 1.6进行了各种优化后，有些情况下它就并不那么重了。javaSE 1.6中为了减少获得锁和释放锁带来的性能消耗而引入了偏向锁和轻量锁，以及锁的存储结构和升级过程。

java中每个对象都可以作为锁。具体表现为以下三种形式：

1. 对于普通同步方法，锁时当前实例对象
2. 对于静态同步方法，锁是当前类的Class对象。
3. 对于同步方法块，琐是sychronized括号里配置的对象。

当一个线程试图访问同步代码块时，它首先必须得到锁，退出或抛出异常时必须释放锁。

锁到底存在哪里呢？锁里面会存储什么信息呢？

从JVM规范里可以看出sychronized在jvm的实现原理，jvm基于进入和退出Monitor对象来实现方法同步和代码块同步，但两者的实现细节不同。
代码块同步是使用monitorenter和monitorexit指令实现的，而方法同步是使用另外一种方法实现的。

monitorenter指令是在编译后插入到同步代码块的开始位置，而monitorexit是插入到方法结束处和异常处，JVM要保证每个monitorenter必须有对应的monitorexit与之配对。任何对象都有一个monitor与之关联，当且一个monitor被持有后，它将处于锁定状态。线程执行到minitorenter指令时，将会尝试获取对象所对应的monitor的所有权，即尝试获得对象的锁。

JAVA对象头

synchronized用的锁是存在Java对象头里的。如果对象是数组类型，则虚拟机用三个字宽（word）存储对象头，如果对象是非数组类型，则用二字宽存储对象头。在32位虚拟机中，1字宽等于4字节，即32bit。

内容	说明
Mark word(32/64bit)	存储对象的hashcode或锁信息等
Class Metadata Address(32/64bit)	存储到对象类型数据指针
Array length(32/64bit)	数组的长度（如果当前对象时数组）

Java对象头里的Mark word里默认存储对象的HashCode、分代年龄和锁标记位。32位JVM对象头的Mark Word的存储结构如下图：

在运行期间，Mark Word里存储的数据会随着锁标志位的变化而变化。Mark Word可能会变化成一下4中数据：

在64位虚拟机下，Mark Word是64bit大小的，其存储结构如下：

锁的升级与对比

JavaSE1.6为了减少获得锁和释放锁带来的性能消耗，引入了“偏向锁”和“轻量级锁”。在JAVASE1.6中，锁一共有四种状态。级别从低到高依次是：无锁状态、偏向锁状态、轻量级锁状态和重量级锁状态。这几个状态会随着竞争情况逐渐升级。锁可以升级但不能降级。这种锁升级却不能降级的策略，目的是为了提高获得锁和释放锁的效率。

1.偏向锁
当一个线程访问同步快并获取锁时，会在对象头和栈帧中的锁记录里存储锁偏向的线程id，以后该线程在进入和退出同步代码块时不需要进行CAS操作来加锁和解锁，只需要简单的测试下对象头的Mark Word里是否存储着指向当前线程的偏向锁，如果测试成功，表示线程已经获得了锁。如果测试失败，则需要再测试一下Mark Word中偏向锁的标识是否设置成1（标识当前是偏向锁）；如果没有设置，则使用CAS竞争锁；如果设置了，则尝试将对象头的偏向锁指向当前线程。

（1）偏向锁的撤销
偏向锁使用了一种等到竞争出现才释放锁的机制，所以当其它线程尝试竞争偏向锁时，持有偏向锁的线程才会释放锁。偏向锁的撤销，需要等待全局安全点（在这个时间点上没有正在执行的字节码）。它回首先暂停拥有偏向锁的线程，然后检查持有偏向锁的线程是否还活着，如果线程不处于活动状态，则讲对象头设置成无锁状态；如果线程仍然活着，拥有偏向锁的栈会被执行，遍历偏向对象的锁记录，栈中的锁记录和对象头的Mark word要么重新偏向于其它线程，要么恢复到无锁或者标记对象不适合作为偏向锁，最后唤醒暂停的线程。

（2）关闭偏向锁
偏向锁在Java6和Java7里是默认启用的，但是它在应用程序启动几秒钟之后才激活，如果有必要可以使用JVM参数来关闭延迟：-XX:BiasedLockingStartupDelay=0。如果你确定应用程 序里所有的锁通常情况下处于竞争状态，可以通过JVM参数关闭偏向锁：-XX:- UseBiasedLocking=false，那么程序默认会进入轻量级锁状态。

2.轻量级锁

（1）轻量级锁加锁

线程在执行同步代码块之前，JVM会先在当前线程的栈帧中创建用于存储锁记录的空间，并将对象Mark Word复制到锁记录中。官方称为Displaced Mark Word。然后线程尝试使用CAS将对象头中的Mark Word替换成指向锁记录的指针。如果成功，则当前线程获得锁，如果失败，表示其它线程竞争锁，当前线程便尝试使用自旋锁来获取锁。

（2）轻量级锁解锁
轻量级解锁时，会使用原子的CAS操作将Displaced Mark
Word替换回到对象头，如果成功，则表示没有竞争发生。如果失败，表示当前锁存在竞争，锁就会膨胀成重量级锁。下图看不太懂

因为自旋会消耗CPU，为了避免无用的自旋（比如获得锁的线程被阻塞住了），一旦锁升级成重量级锁，就不会再恢复到轻量级锁状态。

3. Java如何实现原子操作
（1）使用循环cas实现原子操作

自旋CAS实现的基本思路就是循环进行CAS操作直到成功为止。以下代码实现了一个基于CAS线程安全的计数器方法safeCount和一个非线程安全的计数器count。

package com.xuexi.thread.day01;

import java.util.ArrayList;
import java.util.List;
import java.util.concurrent.atomic.AtomicInteger;

public class AtomicTest {

    private AtomicInteger atomicI=new AtomicInteger(0);

    private int i=0;

    private void safeCount(){
        while (true){
            int i=atomicI.get();
            boolean suc = atomicI.compareAndSet(i, ++i);
            if(suc){
                break;
            }
        }
    }

    private void count(){
        i++;
    }

    public static void main(String[] args) {
        final AtomicTest atomicTest = new AtomicTest();
        List<Thread> ts=new ArrayList<Thread>();
        long start = System.currentTimeMillis();
        for(int j=0;j<100;j++){
            Thread t=new Thread(new Runnable() {
                public void run() {
                    for (int i=0;i<1000;i++){
                        atomicTest.count();
                        atomicTest.safeCount();
                    }
                }
            });
            ts.add(t);
        }
        for(Thread t:ts){
            t.start();
        }

        for(Thread t:ts){
            try {
                t.join();
            } catch (InterruptedException e) {
                e.printStackTrace();
            }

        }

        System.out.println(atomicTest.i);
        System.out.println(atomicTest.atomicI.get());
        System.out.println(System.currentTimeMillis()-start);
    }
}

（2）CAS实现原子操作的三大问题

1. ABA问题
   问题描述：cas在操作值得时候，检查值有没有发生变化，如果一个值原来是A，变成了B，又变成了A，那么使用CAS检查时会发现它的值没有发生变化。
   解决思路：
   使用版本号区分：A->B->A就会变成1A->2B->3A
2. 循环时间长开销大
3. 只能保证一个共享变量的原子操作