线程安全与锁优化

前言：

唏唏唏嘘嘘，终于看完了《深入理解jvm》这本书，虽然看的是跳着看的，部分性能调优方面并没有看，弥补了很多重要的知识，虽然写的博客都是根据书本摘抄而来带上一些个人的体会，但张家辉话斋：你最紧要记得自己为咩上台。没计，既然选择了这条路，点都要顶落去！

线程安全与锁优化

线程安全的实现方式：
​ 同步是指在多线程并发访问共享数据时，保证共享数据在同一时刻只被一个线程使用。

1.互斥同步

互斥同步是一种常见并发正确性保障手段。互斥时实现同步的一种手段，临界区、互斥量、信号量都是主要互斥的实现方式。互斥同步最主要的问题就是进行线程阻塞和唤醒锁带来的性能问题，因此才被称为阻塞同步。从处理方式来看互斥同步时一种悲观的并发策略，总是认为只要不去做正确的同步措施，那就肯定会出问题，无论共享数据是否出现竞争，都进行加锁。

synchronized关键字

​ 在java中，最基本的互斥同步手段就是synchronized关键字，synchronized关键字在经过编译之后，会在同步块的前后形成monitorenter和monitorexit这两个字节码指令。这两个字节码都需要一个reference类型的参数来指明要锁定和解锁的对象，如果java程序中syncheronized明确指定了是实例方法还是类方法，去取对应的对象实例或者class对象来作为锁对象。

​ monitorenter指令的执行流程：首先尝试获取对象的锁，如果这个对象没被锁（根据对象头判断），或者当前线程已经拥有了那个对象的锁，把锁的计数器+1，相应的执行monitorexit指令时会将锁计数器-1，当计数器为0时，锁就被释放。如果获取对象的锁失败，那么当前线程就要被阻塞等待，直到对象锁被另外一个线程释放为止。

​ 在通知操作系统阻塞线程之前加入一段自旋等待过程，避免频繁地切入到核心态中。

ReentrantLock

​ ReentrantLock与synchronized很相似，他们都具有线程重入特征，只是代码写法上有区别，一个表现为api层面的互斥锁（ReentrantLock lock()和unlock()配合try/finally语句来完成），另一个表现为原生语法层面的互斥锁（synchronized）。

​ ReentrantLock还增加了一些高级功能

• 等待可中断

  等待可中断是指当持有锁的线程长期不释放锁的时候，正在等待的线程可以选择放弃等待，改为处理其他事情，可中断特征对于处理执行时间非常长的同步块有帮助

• 实现公平锁

  公平锁时指多个线程在等待同一个锁时，必须按照申请锁的时间顺序来依次获取锁，而非公平锁则不保证这一点，在锁被释放时，任何一个等待锁的线程都有机会获得锁。synchronized中的锁是非公平的，ReetrantLock在默认情况下也是非公平的，而ReetrantLock则无需这样做，只需要多次调用newCondition()方法即可

• 锁可以绑定多个条件

  可以绑定多个Condition对象，而在synchronized中，锁对象的wait()和notify()或者notifyAll()方法可以实现一个隐含条件，如果要和多于一个的条件关联的时候，就不得不额外地添加一个锁，而ReentrantLock则无需这样做，只需要多次调用newCondition()方法即可。

2.非阻塞同步

基于冲突检测的乐观并发策略，即先进行操作没如果没有其他线程用共享数据，没那么操作就成功了，如果有竞争，产生了冲突，那就再采取其他的补偿措施(最简单的就是不断重试，知道成功位置----自旋)，这种乐观的并发策略许多实现不需要把线程关起来，因此被称为非阻塞同步

​ 乐观并发策略为什么需要“硬件指令集的发展”才可以进行？

​ 因为我们需要操作和冲突检测这两个步骤具有原子性。

硬件保证了一个从语义上看起来需要多次操作的行为只通过一条处理器指令就能完成。这类指令常用的有：

• 测试并设置(Test-and-Set)
• 获取并且增加(Fetch-and-Increment)
• 交换(Swap)
• 比较并交换（Compare-and-Swap CAS）
• 加载链接/条件存储(Load-Linked/store-Condition LL/SC)

常见的大概就是CAS了，Cas操作由Unsafe类里面的compareAndSwapInt()和compareAndSwapLong()等几个方法包装提供，虚拟机在内部对这些方法做了特殊处理，即时编译出来的结果就是一条平台相关的处理器cas指令。

但是！Unsafe中的getunsafe方法限制了只有启动类加载器加载的class才可以访问它。

public static Unsafe getUnsafe() {
        Class var0 = Reflection.getCallerClass();
        if (!VM.isSystemDomainLoader(var0.getClassLoader())) {
            throw new SecurityException("Unsafe");
        } else {
            return theUnsafe;
        }
    }

所以我们只能通过其他的java api来间接使用它，例如AtomicInteger的compareAndSet方法和getAndIncrement()都用了unsafe类的cas操作。

//AtomicInteger的incrementAndGet方法
public final int incrementAndGet() {
        return unsafe.getAndAddInt(this, valueOffset, 1) + 1;
 }

//unsafe中的方法
public final int getAndAddInt(Object var1, long var2, int var4) {
    int var5;
    do {
      //获取旧值
        var5 = this.getIntVolatile(var1, var2);
      //var5旧值。var5+var4新值。   var1：AtomicInteger对象 var2：AtomicInteger对象中类成员变量的位置。 
    } while(!this.compareAndSwapInt(var1, var2, var5, var5 + var4));

    return var5;
}

可以看出底层操作时在一个无限循环中，不断尝试着cas算法，compareAndSwapInt尝试将var5+var4复制给本对象成员变量偏移位上变量，如果失败那么即操作的时候值已经被修改了，那么就在此循环进行下一次操作，知道成功位置。

CAS存在着一个逻辑问题：ABA，如果一个变量v初次读取的时候是a值，并且在准备赋值的时候它仍然是a，那么我们认为它的值没有被其他线程改变，但是可能存在的情况是 这个变量由a变成了b最后再变成了a才被我们进行复制操作。但此时我们的cas还是会认为为改变过。

3.无同步方案

​ 要保证线程安全，并不是一定就要进行同步，两者没有因果关系。同步只是保证共享数据争用时的正确性的手段，如果一个方法本来就不涉及共享数据，那它自然就无须任何同步措施去保证正确性，因此会有一些代码天生就是线程安全的，笔者简单地介绍其中的两类。

• 可重入代码：

  可重入代码（Reentrant Code）：这种代码也叫做纯代码（Pure Code），可以在代码执行的任何时刻中断它，转而去执行另外一段代码（包括递归调用它本身），而在控制权返回后，原来的程序不会出现任何错误。相对线程安全来说，可重入性是更基本的特性，它可以保证线程安全，即所有的可重入的代码都是线程安全的，但是并非所有的线程安全的代码都是可重入的。

  ​ 可重入代码有一些共同的特征，例如不依赖存储在堆上的数据和公用的系统资源、用到的状态量都由参数中传入、不调用非可重入的方法等。我们可以通过一个简单的原则来判断代码是否具备可重入性：如果一个方法，它的返回结果是可以预测的，只要输入了相同的数据，就都能返回相同的结果，那它就满足可重入性的要求，当然也就是线程安全的。

• 线程本地存储

  线程本地存储（Thread Local Storage）：如果一段代码中所需要的数据必须与其他代码共享，那就看看这些共享数据的代码是否能保证在同一个线程中执行？如果能保证，我们就可以把共享数据的可见范围限制在同一个线程之内，这样，无须同步也能保证线程之间不出现数据争用的问题。

  ​ 符合这种特点的应用并不少见，最重要的一个应用实例就是经典 Web 交互模型中的 “一个请求对应一个服务器线程”（Thread-per-Request）的处理方式，这种处理方式的广泛应用使得很多 Web 服务端应用都可以使用线程本地存储来解决线程安全问题。

  Java 语言中，如果一个变量要被多线程访问，可以使用 volatile 关键字声明它为 “易变的”；如果一个变量要被某个线程独享，可以通过 java.lang.ThreadLocal 类来实现线程本地存储的功能。每一个线程的 Thread 对象中都有一个 ThreadLocalMap 对象，这个对象存储了一组以 ThreadLocal.threadLocalHashCode 为键，以本地线程变量为值的 K-V 值对，ThreadLocal 对象就是当前线程的 ThreadLocalMap 的访问入口，每一个 ThreadLocal 对象都包含了一个独一无二的 threadLocalHashCode 值，使用这个值就可以在线程 K-V 值对中找回对应的本地线程变量。

锁优化

​ 我们知道互斥同步对于性能最大的影响就是阻塞的实现，挂起线程和恢复线程的操作都需要转入内核态中完成，这些操作给系统的并发性能带来了很大的压力。但是在许多的应用上，共享数据的锁定状态只会持续很短的一段时间，为了这段短时间去挂起和恢复线程并不值得。如果物理机器由一个以上的处理器，能让两个或者以上的线程同时并行执行，我么可以让后面请求锁的线程，扫等一下但是不放弃处理器的执行时间，看看持有锁的线程是否很快就释放锁，为了让线程等待，我们只需要让线程执行一个忙循环(自旋)，这项技术就是所谓的自旋锁。

自旋锁和自适应自旋

**1）自旋锁定义：**为了让线程等待，我们只需让线程执行一个忙循环（自旋），这项技术就是所谓的自旋锁；（solution）

​ **2.1）**jdk1.6中 自旋锁是默认开启的，可以使用 -XX:+UseSpinning 参数来开启；

​ 2.2）自旋等待的时间必须要有一定的限度： 如果自旋超过了限定的次数仍然没有成功获得锁，就应当使用传统的方式去挂起线程了。自旋次数的默认值是10，用户可以用参数 -XX:PreBlockSpin 来更改；

​ **2.3）自适应自旋锁：**jdk1.6 中引入了自适应的自旋锁。自适应意味着自旋的时间不再固定了，而是由前一次在同一个锁上的自旋时间及锁的拥有者的状态来决定；

​ **case1）**如果在同一个锁对象上，自旋等待刚刚成功获得过锁，并且持有锁的线程正在运行中，那么虚拟机就会认为这次自旋也很有可能再次成功，进而它将允许自旋等待持续相对更长的时间，比如100个cycle；

​ **case2）**如果对于某个锁，自旋很少成功获得过， 那在以后要获取这个锁时将可能省略掉自旋过程，以避免浪费处理器资源；

锁消除

1）定义：锁消除是指虚拟机即时编译器在运行时，对一些代码上要求同步，但是被检查到不可能存在共享数据竞争的锁进行消除；（引入锁消除的概念）

**2）锁消除的主要判定依据：**来源于逃逸分析的数据支持；如果判定在一段代码中，堆上的所有数据都不会逃逸出去从而被其他线程访问到，那就可以把它们当做栈上数据对待，认为它们是线程私有的，同步加锁自然就无须进行了；

3）问题

​ **3.1）问题：**程序员自己应该很清楚，怎么会在明知道不存在数据争用的case下还要求同步呢？

​ 3.2）答案：许多同步措施并不是程序员自己加入的，同步的代码在java程序中的普遍程度早就超过了大部分人的想象；（许多同步措施并不是程序员自己加入的）

​ 3.3）例子：这段code 仅仅是输出3个字符串相加的结果，无论是源码字面上还是程序语义上都没有同步；

public class LockEliminateTest {
    
    // raw code
    public String concatString(String s1, String s2, String s3) {
        return s1 + s2 + s3;
    }
    
    // javac 自动优化 转化后的字符串连接操作1.5之前是buffer 1.6后是builder
    public String concatString(String s1, String s2, String s3) {
        StringBuffer sb = new StringBuffer();
        sb.append(s1);
        sb.append(s2);
        sb.append(s3);
        return sb.toString();
    }
}

• 对于 javac 转化后的字符串连接操作代码： 使用了同步，因为StringBuffer.append() 方法中都有一个同步块，锁就是sb对象。虚拟机观察变量sb，很快就会发现他的动态作用域被限制在 concatString() 方法内部；也就是所 sb 的所有引用都不会逃逸到方法之外；

• 所以，虽然这里有锁，但是可以被安全地消除掉，在即时编译之后，这段代码就会忽略掉所有的同步而直接执行了；

锁粗化

**1）前提：**如果一系列的连续操作都对同一个对象反复加锁和解锁，甚至加锁操作是出现在循环体中的，那即使没有线程竞争，频繁地进行互斥同步操作也会导致不必要的性能损耗；

**2）锁粗化的定义：**如果虚拟机探测到有这样一串零碎的操作都对同一个对象加锁，将会把加锁同步的范围扩展（粗化）到整个操作序列的外部；

**3）例子：**以下面的代码为例，就是扩展到第一个 append() 操作前直到最后一个 append()操作之后，这样只需要加锁一次就可以了；

// javac 转化后的字符串连接操作
    public String concatString(String s1, String s2, String s3) {
        StringBuffer sb = new StringBuffer();
        sb.append(s1);
        sb.append(s2);
        sb.append(s3);
        return sb.toString();
    }

轻量级锁

1）定义：是在没有多线程竞争的前提下，减少传统的重量级锁使用操作系统互斥量产生的性能消耗。

2）理解轻量级锁：首先必须了解对象头！

对象头(header)
包括两个部分信息：

• 第一部分：
  用于存储对象自身运行时数据(Mark word)，例如哈希吗(hashcode)、GC分代年龄、锁状态标志、线程持有锁、偏向锁线程ID、偏向时间戳等。这部份数据在32位和64位的虚拟机中分别为32bit和64bit。它会根据对象的状态复用自己的内存空间。

  

• 第二部分：
  类型指针（Klass Word），即对象指向它的类元数据(类对象)的指针，虚拟机通过这个指针来确定这个对象是哪个类的实例。并不是所有虚拟机实现都必须在对象数据上保留类型指针，即查找对象的元数据信息不一定要经过对象本身，如果对象是一个java数组，那么对象头中还必须有一块用于记录数组长度的数据，因为虚拟机可以通过普通java对象的元数据信息确定java对象的大小。但是从数组的元数据中却无法确认数组的大小。

在代码进入同步块的时候，如果此同步对象没有被锁定（锁标志位为“01”状态），虚拟机首先将在当前线程的栈帧中建立一个名为锁记录（Lock Record）的空间，用于存储锁对象目前的Mark Word的拷贝（官方把这份拷贝加了一个Displaced前缀，即Displaced Mark Word），这时候线程堆栈与对象头的状态如图13-3所示。 (Displaced hdr+owner就是锁记录lock record)

​ 然后，虚拟机将使用CAS 操作尝试将对象的Mark Word更新为指向Lock Record的指针。如果这个更新动作成功了，那么这个线程就拥有了该对象的锁，并且对象Mark Word的锁标志位（Mark Word的最后两个Bits）将转变为**“00”**，即表示此对象处于轻量级锁定状态，这时候线程堆栈与对象头的状态如图13-4所示。

​ 如果这个更新操作失败了，虚拟机首先会检查对象的Mark Word是否指向当前线程的栈帧，如果是就说明当前线程已经拥有了这个对象的锁，那就可以直接进入同步块继续执行，否则说明这个锁对象已经被其他线程抢占了。如果有两条以上的线程争用同一个锁，那轻量级锁就不再有效，要膨胀为重量级锁，锁标志的状态值变为“10”，Mark Word中存储的就是指向重量级锁（互斥量）的指针,不再是00状态下指向偏向的线程栈帧中的锁记录，后面等待锁的线程也要进入阻塞状态。

​ 上面描述的是轻量级锁的加锁过程，它的解锁过程也是通过CAS操作来进行的，如果对象的Mark Word仍然指向着线程的锁记录，那就用CAS操作把对象当前的Mark Word（此时是指向线程的锁记录）和线程中复制的Displaced Mark Word（对象的哈希码和对象分代年龄）替换回来，如果替换成功，整个同步过程就完成了。如果替换失败（即此时已经膨胀为重量级锁），说明有其他线程尝试过获取该锁，那就要在释放锁的同时，根据唤醒被挂起的线程（后面再访问就是用互斥量来上锁了）。 　　
　轻量级锁能提升程序同步性能的依据是“对于绝大部分的锁，在整个同步周期内都是不存在竞争的”，这是一个经验数据。如果没有竞争，轻量级锁使用CAS操作避免了使用互斥量的开销，但如果存在锁竞争，除了互斥量的开销外，还额外发生了CAS操作，因此在有竞争的情况下，轻量级锁会比传统的重量级锁更慢。

偏向锁

​ 偏向锁也是JDK 1.6中引入的一项锁优化，它的目的是消除数据在无竞争情况下的同步原语，进一步提高程序的运行性能。如果说轻量级锁是在无竞争的情况下使用CAS操作去消除同步使用的互斥量，那偏向锁就是在无竞争的情况下把整个同步都消除掉，连CAS操作都不做了。

​ 偏向锁的“偏”，就是偏心的“偏”、偏袒的“偏”。它的意思是这个锁会偏向于第一个获得它的线程，如果在接下来的执行过程中，该锁没有被其他的线程获取，则持有偏向锁的线程将永远不需要再进行同步

​ 假设当前虚拟机启用了偏向锁（启用参数-XX:+UseBiasedLocking，这是JDK 1.6的默认值），那么，当锁对象第一次被线程获取的时候，虚拟机将会把对象头中的标志位设为“01”，即偏向模式。同时使用CAS操作把获取到这个锁的线程的ID记录在对象的Mark Word之中，如果CAS操作成功，持有偏向锁的线程以后每次进入这个锁相关的同步块时，虚拟机都可以不再进行任何同步操作（例如Locking、Unlocking及对Mark Word的Update等）。

​ 当有另外一个线程去尝试获取这个锁时，偏向模式就宣告结束。根据锁对象目前是否处于被锁定的状态，撤销偏向（Revoke Bias）后恢复到未锁定（标志位为“01”）或轻量级锁定（标志位为“00”）的状态，后续的同步操作就如上面介绍的轻量级锁那样执行。偏向锁、轻量级锁的状态转化及对象Mark Word的关系如图所示。