先从阿里及其他大厂面试题说起
- 谈谈对synchronized的理解
- 聊聊synchronized的锁升级
本章路线总纲
用锁能够实现数据安全性,但是会带来性能下降,无锁能够基于线程并行提升程序性能,但会带来安全性下降。
锁升级的过程:无锁→偏向锁→轻量级锁→重量级锁。
synchronized锁:由对象头中的MarkWord根据锁标志位的不同而被复用及锁升级策略。
synchronized的性能变化
在Java 5之前,只有synchronized,这是操作系统级别的重量级操作,需要在用户态、内核态之间来回切换。
Java的线程是映射到操作系统原生线程之上的,如果要阻塞或唤醒一个线程就需要操作系统介入,需要在用户态与核心态之间切换,这种切换会消耗大量的系统资源,因为用户态与内核态都有各自专用的内存空间,专用的寄存器等,用户态切换至内核态需要传递给许多变量、参数给内核,内核也需要保护好用户态在切换时的一些寄存器值、变量等,以便内核态调用结束后切换回用户态继续工作。
在Java早期版本中,synchronized属于重量级锁,效率低下,因为监视器锁(monitor)是依赖于底层的操作系统的Mutex Lock(系统互斥量)来实现的,挂起线程和恢复线程都需要转入内核态去完成,阻塞或唤醒一个Java线程需要操作系统切换CPU状态来完成,这种状态切换需要耗费处理器时间,如果同步代码块中内容过于简单,这种切换的时间可能比用户代码执行的时间还长,时间成本相对较高,这也是为什么早期的
synchronized效率低的原因。Java 6之后,为了减少获得锁和释放锁所带来的性能消耗,引入了轻量级锁和偏向锁。
为什么每一个对象都可以成为一个锁
在markOop.hpp源码里,Monitor可以理解为一种同步工具,也可理解为一种同步机制,常常被描述为一个Java对象。Java对象是天生的Monitor,每一个Java对象都有成为Monitor的潜质,因为在Java的设计中,每一个Java对象自打娘胎里出来就带了一把看不见的锁,它叫做内部锁或者Monitor锁。
Monitor的本质是依赖于底层操作系统的Mutex Lock实现,操作系统实现线程之间的切换需要从用户态到内核态的转换,成本非常高。
JVM中的同步就是基于进入和退出管程(Monitor)对象实现的。每个对象实例都会有一个Monitor,Monitor可以和对象一起创建、销毁。
Monitor是由ObjectMonitor实现,而ObjectMonitor是由C++的ObjectMonitor.hpp文件实现。
Monitor是在JVM底层实现的,底层代码是C++。本质是依赖于底层操作系统的Mutex Lock实现,操作系统实现线程之间的切换需要从用户态到内核态的转换,状态转换需要耗费很多的处理器时间成本非常高。所以synchronized是Java语言中的一个重量级操作。
Monitor与Java对象以及线程是如何关联的
如果一个Java对象被某个线程锁住,则该Java对象的Mark Word字段中LockWord指向monitor的起始地址。Monitor的Owner字段会存放拥有相关联对象锁的线程id。
Mutex Lock的切换需要从用户态转换到核心态中,因此状态转换需要耗费很多的处理器时间。
Java 6之后,为了减少获得锁和释放锁带来的性能消耗,引入轻量级锁和偏向锁
synchronized锁种类及升级步骤
多线程访问三种情况
- 只有一个线程访问,有且仅由一个,这是低并发的情况
- 有多个线程(2个线程A、B交替访问)
- 竞争激烈,更多个线程来访问
升级流程
synchronized用的锁是存在Java对象头里的Mark Word中,锁升级功能主要依赖Mark Word中锁标志位和释放偏向锁标志位。
- 偏向锁:MarkWord存储的是偏向的线程ID
- 轻量锁:MarkWord存储的是指向线程栈中Lock Record的指针
- 重量锁:MarkWord存储的是指向堆中的monitor对象的指针
无锁
import org.openjdk.jol.info.ClassLayout;
public class SynchronizedDemo {
public static void main(String[] args) {
Object object = new Object();
System.out.println("十进制hashcode=" + object.hashCode());// 必须调用才会生成
System.out.println("十六进制hashcode=" + Integer.toHexString(object.hashCode()));
System.out.println("二进制hashcode=" + Integer.toBinaryString(object.hashCode()));
System.out.println(ClassLayout.parseInstance(object).toPrintable());
}
}
初始状态,一个对象被实例化之后,如果还没有被任何线程竞争锁,那么它就为无锁状态(001)。
偏锁
是什么
偏向锁:单线程竞争锁
当线程A第一次竞争到锁时,通过操作修改Mark Word中的偏向线程ID、偏向模式。如果不存在其他线程竞争,那么持有偏向锁的线程将永远不需要进行同步。
主要作用
当一段同步代码一直被同一个线程多次访问,由于只有一个线程,那么该线程在后续访问时便自动获得锁。
Hotspot的作者经过研究发现,大多数情况下:多线程的情况下,锁不仅不存在多线程竞争,还存在锁由同一个线程多次获得的情况,偏向锁就是在这种情况下出现的,它的出现是为了解决只有在一个线程执行同步时提高性能。
偏向锁会偏向于第一个访问锁的线程,如果在接下来的运行过程中,该锁没有被其他的线程访问,则持有偏向锁的线程将永远不需要触发同步。也即偏向锁在资源没有竞争情况下消除了同步语句,懒的连CAS操作都不做了,直接提高程序性能。
偏向锁的持有
在实际应用运行过程中发现,“锁总是同一个线程持有,很少发生竞争”,也就是说锁总是被第一个占用他的线程拥有,这个线程就是锁的偏向线程。
那么只需要在锁第一次被拥有的时候,记录下偏向线程ID。这样偏向线程就一直持有着锁(后续这个线程进入和退出这段加了同步锁的代码块时,不需要再次加锁和释放锁。而是直接会去检查锁的MarkWord里面是不是放的自己的线程ID)。
如果相等,表示偏向锁是偏向于当前线程的,就不需要再尝试获得锁了,直到竞争发生才释放锁。以后每次同步,检查锁的偏向线程ID与当前线程ID是否一致,如果一致直接进入同步。无需每次加锁解锁都去CAS更新对象头。如果自始至终使用锁的线程只有一个,很明显偏向锁几乎没有额外开销,性能极高。
如果不等,表示发生了竞争,锁已经不是总是偏向于同一个线程了,这个时候会尝试使用CAS来替换MarkWord里面的线程ID为新线程的ID。
如果竞争成功,表示之前的线程不存在了,MarkWord里面的线程ID为新线程的ID,锁不会升级,仍然为偏向锁。
如果竞争失败,这时候可能需要升级变为轻量级锁,才能保证线程间公平竞争锁。
注意,偏向锁只有遇到其他线程尝试竞争偏向锁时,持有偏向锁的线程才会释放锁,线程是不会主动释放偏向锁的。
技术实现:一个synchronized方法被一个线程抢到了锁时,那这个方法所在的对象就会在其所在的Mark Word中将偏向锁修改状态位,同时还会有占用前54位来存储线程指针作为标识。若该线程再次访问同一个synchronized方法时,该线程只需去对象头的Mark Word中去判
断一下是否有偏向锁指向本身的ID,无需再进入Monitor去竞争对象了。
偏向锁的操作不用直接捅到操作系统,不涉及用户到内核转换,不必要直接升级为最高级。
假如有一个线程执行到synchronized代码块的时候,JVM使用CAS操作把线程指针ID记录到Mark Word当中,并修改标偏向标示,标示当前线程就获得该锁。锁对象变成偏向锁(通过CAS修改对象头里的锁标志位),字面意思是“偏向于第一个获得它的线程”的锁。执行完同步代码块后,线程并不会主动释放偏向锁。
这时线程获得了锁,可以执行同步代码块。当该线程第二次到达同步代码块时,会判断此时持有锁的线程是否还是自己(持有锁的线程ID也在对象头里),JVM通过对象的Mark Word判断:当前线程ID还在,说明还持有着这个对象的锁,就可以继续进入临界区工作。由于之前没有释放锁,这里也就不需要重新加锁。如果自始至终使用锁的线程只有一个,很明显偏向锁几乎没有额外开销,性能极高。
结论:JVM不用和操作系统协商设置Mutex(争取内核),它只需要记录下线程ID就标示自己获得了当前锁,不用操作系统介入。
上述就是偏向锁在没有其他线程竞争的时候,一直偏向偏心当前线程,当前线程可以一直执行。
偏向锁JVM命令
java -XX:+PrintFlagsInitial | grep BiasedLock*
在Linux服务器执行这个命令,查看偏向锁相关的参数。
$ java -XX:+PrintFlagsInitial | grep BiasedLock*
intx BiasedLockingBulkRebiasThreshold = 20 {product}
intx BiasedLockingBulkRevokeThreshold = 40 {product}
intx BiasedLockingDecayTime = 25000 {product}
## 偏向锁启动延迟时间
intx BiasedLockingStartupDelay = 4000 {product}
bool TraceBiasedLocking = false {product}
## 是否启用偏向锁
bool UseBiasedLocking = true {product}
在JDK 6之后,偏向锁是默认开启的,但是有一个启动延迟,也就是上面的BiasedLockingStartupDelay
参数,所以,我们需要在启动的时候,开启偏向锁并把启动延迟时间设置为0。
## 开启偏向锁,并设置延迟时间为0
-XX:+UseBiasedLocking -XX:BiasedLockingStartupDelay=0
## 关闭偏向锁,此时程序会直接进入“轻量级锁”状态
-XX:-UseBiasedLocking
import org.openjdk.jol.info.ClassLayout;
public class SynchronizedDemo {
public static void main(String[] args) {
Object object = new Object();
synchronized (object) {
// 观察object header第一行的前8位的末尾
// 添加VM options后,再次启动观察object header第一行的前8位的末尾
// -XX:BiasedLockingStartupDelay=0
// 由000变成了101
System.out.println(ClassLayout.parseInstance(object).toPrintable());
}
}
}
还有一个方式,可以触发偏向锁,也就是在程序进入synchronized代码块之前,先sleep超过4秒,再次执行,就可以看到偏向锁已经被开启了。
观察这两个打印,第一个打印里,因为对象并没有在synchronized里,所以线程id为空,第二个打印里,因为对象在synchronized代码块里,所以线程id是有值的。
偏向锁的撤销
当有另外线程逐步来竞争锁的时候,就不能再使用偏向锁了,要升级为轻量级锁,竞争线程尝试CAS更新对象头失败,会等待到全局安全点(此时不会执行任何代码)撤销偏向锁。
偏向锁使用一种等到竞争出现才释放锁的机制,只有当其他线程竞争锁时,持有偏向锁的原来线程才会被撤销。撤销需要等待全局安全点(该时间点上没有字节码正在执行),同时检查持有偏向锁的线程是否还在执行:
①第一个线程正在执行synchronized方法(处于同步块),它还没有执行完,其它线程来抢夺,该偏向锁会被取消掉并出现锁升级。
此时轻量级锁由原持有偏向锁的线程持有,继续执行其同步代码,而正在竞争的线程会进入自旋等待获得该轻量级锁。
②第一个线程执行完成synchronized方法(退出同步块),则将对象头设置成无锁状态并撤销偏向锁重新偏向。
总体步骤图示
Java 15逐步废弃偏向锁,默认情况下,不再自动开启,如果需要使用,需要在VM options里指定-XX:+UseBiasedLocking
开启。
轻锁
是什么
多线程竞争,但是任意时刻最多只有一个线程竞争,即不存在锁竞争太过激烈的情况,也就没有线程阻塞。
主要作用
有线程来参与锁的竞争,但是获取锁的冲突时间极短,本质是自旋锁CAS。
轻量级锁的获取
轻量级锁是为了在线程近乎交替执行同步块时提高性能。
主要目的:在没有多线程竞争的前提下,通过CAS减少重量级锁使用操作系统互斥量产生的性能消耗,说白了先自旋,不行才升级阻塞。
升级时机:当关闭偏向锁功能或多线程竞争偏向锁会导致偏向锁升级为轻量级锁。
假如线程A已经拿到锁,这时线程B又来抢该对象的锁,由于该对象的锁已经被线程A拿到,当前该锁已是偏向锁了。
而线程B在争抢时发现对象头Mark Word中的线程ID不是线程B自己的线程ID,而是线程A,那线程B就会进行CAS操作希望能获得锁。此时线程B操作中有两种情况:
①:如果锁获取成功,直接替换Mark Word中的线程ID为B自己的ID(A→B),重新偏向于其他线程(即将偏向锁交给其他线程,相当于当前线程"被"释放了锁),该锁会保持偏向锁状态,A线程Over,B线程上位。
②:如果锁获收失败,则偏向锁升级为轻量级锁(设置偏向锁标识为0并设置锁标志位为00),此时轻量级锁由原持有偏向锁的线程持有,继续执行其同步代码,而正在竞争的线程B会进入自旋等待获得该轻量级锁。
轻量级锁的加锁
JVM会为每个线程在当前线程的栈帧中创建用于存储锁记录的空间,官方成为Displaced Mark Word。若一个线程获得锁时发现是轻量级锁,会把锁的MarkWord复制到自己的Displaced Mark Word里面。然后线程尝试用CAS将锁的MarkWord替换为指向锁记录的指针。如果成功,当前线程获得锁,如果失败,表示Mark Word已经被替换成了其他线程的锁记录,说明在与其它线程竞争锁,当前线程就尝试使用自旋来获取锁。
自旋CAS:不断尝试去获取锁,能不升级就不往上捅,尽量不要阻塞。
轻量级锁的释放
在释放锁时,当前线程会使用CAS操作将Displaced Mark Word的内容复制回锁的Mark Word里面。如果没有发生竞争,那么这个复制的操作会成功。如果有其他线程因为自旋多次导致轻量级锁升级成了重量级锁,那么CAS操作会失败,此时会释放锁并唤醒被阻塞的线程。
import org.openjdk.jol.info.ClassLayout;
public class SynchronizedDemo {
public static void main(String[] args) {
// 使用-XX:-UseBiasedLocking关闭偏向锁,直接使用轻量级锁
Object object = new Object();
synchronized (object) {
System.out.println(ClassLayout.parseInstance(object).toPrintable());
}
}
}
自旋达到一次次数和程度
Java 6之前
默认启用,默认情况下自旋次数10次或者自旋线程数超过CPU核数的一半,轻量级锁升级为重量级锁。通过修改-XX:PreBlockSpin=10
来修改。
Java 6之后
自适应自旋锁:
线程如果自旋成功了,下次自旋最大次数会增加,JVM认为上次成功了,这次成功的概率会很大,反之,如果很少自旋成功,下次会减少自旋的次数甚至不自旋,避免CPU空转。
自适应意味着自旋的次数不是固定不变的,而是根据同一个锁上一次自旋的时间、拥有锁线程的状态来决定的。
轻量锁和偏向锁的区别和不同
争夺轻量锁失败的时候,自旋尝试抢占锁。轻量锁每次退出同步块都需要释放锁,偏向锁在竞争发生时才释放锁。
重锁
有大量线程参与锁的竞争,冲突性很高。
Java中synchronized的重量级锁,是基于进入和退出Monitor对象实现的。在编译时会将同步块的开始位置插入monitor enter指令,在结束位置插入monitor exit指令。
当线程执行到monitor enter指令时,会尝试获取对象所对应的Monitor所有权,如果获取到了,即获取到了锁,会在Monitor的owner中存放当前线程的id,这样它将处于锁定状态,除非退出同步块,否则其他线程无法获取到这个Monitor。
import org.openjdk.jol.info.ClassLayout;
public class SynchronizedDemo {
public static void main(String[] args) {
Object object = new Object();
for (int i = 0; i < 10; i++) {
new Thread(() -> {
synchronized (object) {
System.out.println(ClassLayout.parseInstance(object).toPrintable());
}
}, i + "").start();
}
}
}
观察object header第一行前8位的末尾,是10,代表重量级锁。
小总结
锁升级发生后,hashcode去哪里了
在Java语言里面一个对象如果计算过哈希码,就应该一直保持该值不变(强烈推荐但不强制,因为用户可以重载hashCodc()方法按自己的意愿返回哈希码),否则很多依赖对象哈希码的API都可能存在出错风险。而作为绝大多数对象哈希码来源的Object::hashCode()方法,返回的是对象的一致性哈希码(ldentity Hash Code),这个值是能强制保证不变的,它通过在对象头中存储计算结果来保证第一次计算之后,再次调用该方法取到的哈希码值永远不会再发生改变。
因此,当一个对象已经计算过一致性哈希码后,它就再也无法进入偏向锁状态了;而当一个对象当前正处于偏向锁状态,又收到需要计算其一致性哈希码请求l时,它的偏向状态会被立即撤销,并且锁会膨胀为重量级锁。
在重量级锁的实现中,对象头指向了重量级锁的位置,代表重量级锁的ObjectMonitor类里有字段可以记录非加锁状态(标志位为“01”)下的Mark Word,其中自然可以存储原来的哈希码。
- 在无锁状态下:Mark Word中可以存储对象的identity hash code值。当对象的hashCode()方法第一次被调用时,JVM会生成对应的identity hash code值并将该值存储到Mark Word中。
- 对于偏向锁:在线程获取偏向锁时,会用Thread lD和epoch值覆盖identity hash code所在的位置。如果一个对象的hashCode()方法已经被调用过一次之后,这个对象不能被设置偏向锁。因为如果可以的化,那Mark Word中的identity hash code必然会被偏向线程ld给覆盖,这就会造成同一个对象前后两次调用hashCode()方法得到的结果不一致。
- 升级为轻量级锁时:JVM会在当前线程的栈帧中创建一个锁记录(Lock Record)空间,用于存储锁对象的Mark Word拷贝,该拷贝中可以包含identity hash code,所以轻量级锁可以和identity hash code共存,哈希码和GC年龄自然保存在此,释放锁后会将这些信息写回到对象头。
- 升级为重量级锁后:Mark Word保存的重量级锁指针,代表重量级锁的ObjectMonitor类里有字段记录非加锁状态下的Mark Word,锁释放后也会将信息写回到对象头。
import org.openjdk.jol.info.ClassLayout;
public class SynchronizedDemo {
public static void main(String[] args) throws InterruptedException {
// 当一个对象已经计算过一致性哈希码后,它就再也无法进入偏向锁状态了:锁标志位由01变成00
Thread.sleep(5000);// 保证开启偏向锁
Object object = new Object();
System.out.println(ClassLayout.parseInstance(object).toPrintable());
object.hashCode();
synchronized (object) {
System.out.println("本应该是偏向锁,但是因为计算过hashcode,所以变成了轻量级锁");
System.out.println(ClassLayout.parseInstance(object).toPrintable());
}
}
}
import org.openjdk.jol.info.ClassLayout;
public class SynchronizedDemo {
public static void main(String[] args) throws InterruptedException {
// 当一个对象当前正处于偏向锁状态,又收到需要计算其一致性哈希码请求l时,它的偏向状态会被立即撤销,并且锁会膨胀为重量级锁:锁状态由01变成10
Thread.sleep(5000);// 保证开启偏向锁
Object object = new Object();
System.out.println(ClassLayout.parseInstance(object).toPrintable());
synchronized (object) {
System.out.println("偏向锁过程中计算hashcode,所以变成了重量级锁");
object.hashCode();
System.out.println(ClassLayout.parseInstance(object).toPrintable());
}
}
}
各种锁优缺点、synchronized锁升级和实现原理
锁 | 优点 | 缺点 | 适用场景 |
---|---|---|---|
偏向锁 | 加锁和解锁不需要额外的消耗,和执行费同步方法相比仅存在纳秒级的差距 | 如果线程间存在锁竞争,会带来额外的锁撤销的消耗 | 适用于只有一个线程访问同步块场景 |
轻量级锁 | 竞争的线程不会阻塞,提高了程序的响应速度 | 如果始终得不到锁竞争的线程,使用自旋会消耗CPU | 追求响应时间,同步块执行速度非常快 |
重量级锁 | 线程竞争不使用自旋,不会消耗CPU | 线程阻塞,响应时间缓慢 | 追求吞吐量,同步块执行速度较慢 |
synchronized锁升级过程总结:先自旋,不行再阻塞。
实际上是把之前的悲观锁(重量级锁)变成在一定条件下使用偏向锁以及使用轻量级(自旋锁CAS)的形式。
synchronized在修饰方法和代码块在字节码上实现方式有很大差异,但是内部实现还是基于对象头的MarkWord来实现的。
JDK1.6之前synchronized使用的是重量级锁,JDK1.6之后进行了优化,拥有了无锁→偏向锁→轻量级锁→重量级锁的升级过程,而不是无论什么情况都使用重量级锁。
- 偏向锁:适用于单线程适用的情况,在不存在锁竞争的时候进入同步方法/代码块则使用偏向锁。
- 轻量级锁:适用于竞争较不激烈的情况(这和乐观锁的使用范围类似),存在竞争时升级为轻量级锁,轻量级锁采用的是自旋锁,如果同步方法/代码块执行时间很短的话,采用轻量级锁虽然会占用cpu资源但是相对比使用重量级锁还是更高效。
- 重量级锁:适用于竞争激烈的情况,如果同步方法/代码块执行时间很长,那么使用轻量级锁自旋带来的性能消耗就比使用重量级锁更严重,这时候就需要升级为重量级锁。
JIT编译器对锁的优化
JIT
Just In Time Compiler:即时编译器
锁消除
public class SynchronizedDemo {
static Object object = new Object();
public void fun() {
// synchronized (object) {
// System.out.println("hello world");
// }
// 下面的代码会发生锁消除,JIT会进行优化,因为这里并不需要加锁
Object object = new Object();
synchronized (object) {
System.out.println("hello world " + object.hashCode() + "\t" + SynchronizedDemo.object.hashCode());
}
}
public static void main(String[] args) {
SynchronizedDemo synchronizedDemo = new SynchronizedDemo();
for (int i = 0; i < 10; i++) {
new Thread(() -> {
synchronizedDemo.fun();
}, i + "").start();
}
}
}
锁粗化
假设方法首尾相接,前后相邻的都是同一个锁对象,JIT编译器就会把这几个synchronized块合并成一个大块,加粗加大范围,一次申请锁即可,避免多次申请和释放锁,提升性能。
public class SynchronizedDemo {
static final Object object = new Object();
public static void main(String[] args) {
synchronized (object) {
System.out.println(1);
}
synchronized (object) {
System.out.println(2);
}
synchronized (object) {
System.out.println(3);
}
synchronized (object) {
System.out.println(4);
}
// 上面代码会被JIT优化成下面这种代码,避免了重复的加锁和解锁
synchronized (object) {
System.out.println(1);
System.out.println(2);
System.out.println(3);
System.out.println(4);
}
}
}
小总结
没有锁:自由自在
偏向锁:唯我独尊
轻量锁:楚汉争霸
重量锁:群雄逐鹿