Java并发机制的底层原理实现
(ps:本文是笔者学习方腾飞先生著作的《 Java并发编程的艺术》的学习笔记)
- Java代码在编译后会变成Java字节码,字节码被类加载器加载到JVM里,JVM执行字节码,最终需要转化为汇编指令在CPU上执行。Java中所使用的并发机制依赖于JVM的实现和CPU的指令。
volatile的应用
- volatile是轻量级的synchronize,它在多处理器开发中保证了共享变量的“可见性”。
- 可见性的意思是当一个线程修改一个共享变量时,另一个线程可以读到这个修改的值。
- 如果volatile变量修饰符使用恰当的话,它比synchronize的使用和执行成本更低,因为它不会引起线程上下文的切换和调度。
volatile的定义与实现原理
- Java语言规范第3版中对volatile的定义:Java编程语言允许线程访问共享变量,为了确保共享变量能被准确和一致的更新,线程应该确保通过排他锁单独获得这个变量。
- Java语言提供了volatile,在某些情况下比锁要更加方便。如果一个字段被声明成volatile,Java线程内存模型确保所有线程看到这个变量的值是一致的。
- 为了提高处理速度,处理器不直接和内存进行通信,而是先将系统内存的数据读到内部缓存后再进行其他操作,但是操作完不知道何时会写到内存。如果对声明了volatile的变量进行写操作,JVM就会向处理器发送一条Lock前缀的指令,将这个变量所在缓存行的数据写回到系统内存。但是就算写回到内存如果其他处理器缓存的值还是旧值,,再执行计算操作就会有问题。所以,在多处理器下,为了保证各个处理器的缓存是一致的,就会实现缓存一致性协议,每个处理器通过嗅探在总线程上传播的数据来检查自己缓存的值是不是过期了,当处理器发现自己缓存行对应的内存地址被修改,就会将当前处理器的缓存行设置成无效状态,当处理器对这个数据进行修改操作的时候,会重新从系统内存中把数据读到处理器缓存里。
Lock前缀指令在多核处理器下会引发的两件事。
- 将当前处理器缓存行的数据回写到系统内存。
- 这个写回内存的操作会使在其他CPU里缓存了该内存地址的数据无效。
volatile的两条实现原则
- Lock前缀指令会引起处理器缓存回写到内存。
(1) 在老版本处理器的时候,Lock前缀指令导致在执行指令期间,声言处理器的LOCK#信号。在多处理器环境中,LOCK#信号确保在声言该信号期间,处理器可以独占任何共享内存,因为它会锁住总线,导致其他CPU不能访问总线,不能访问总线就意味着不能访问系统内存。
(2) 在新版本处理器的时候,LOCK#信号一般不锁总线,而是锁缓存。新版处理器中,如果访问的内存区域已经缓存在处理器内部,则不会声言LOCK#。相反,它会锁定这块内存区域的缓存并回写到内存,并使用缓存一致性机制来确保修改的原子性,此操作被称为“缓存锁定”,缓存一致性机制会阻止同时修改由两个以上处理器缓存的内存区域数据。 - 一个处理器的缓存回写到内存会导致其他处理器的缓存无效。
(1) Intel64位处理器使用MESI(修改、独占、共享、无效)控制协议去维护内部缓存和其他处理器缓存的一致性。
(2) 在多核处理器系统中进行操作的时候,Intel64位处理器能嗅探其他处理器访问系统内存和它们的内部缓存。处理器使用嗅探技术保证它的内部缓存、系统内存和其他处理器的缓存数据在总线上保持一致。
volatile的使用优化
- 可以通过通过字节来优化性能(通过LinkedTransferQueue这个类,它使用一个内部类类型来定义队列的头节点和尾节点,而这个内部类PaddedAtomicReference相对于父类AtomicReference只做了一件事,就是把共享变量追加到64字节)
- 为什么追加64字节能提高并发编程的效率?
( [ 还未理解] 因为一些处理器的缓存的高速缓存行是64个字节宽,不支持部分填充缓存行,这种情况下,如果头节点和尾节点都不足64节点的话,处理器会将他们都读到一个高速缓存行中,在多处理器下每个处理器都会缓存同样的头尾节点,当一个处理器试图修改头节点时,会将整个缓存行锁定,那么在缓存一致性机制的作用下,会导致其他处理器不能访问自己高速缓存中的尾节点,而队列的入列和出列操作则需要不停修改头节点和尾节点,所以在多处理器的情况下将会严重影响到队列的入队和出队效率。简单来说就是:用追加到64字节的方式来填满高速缓冲区的缓存行,避免头尾节点加载到同一个缓存行中,使头尾节点在修改的时候不会相互锁定。) - 并不是在使用volatile变量的时候都应该追加64字节
(缓存行不是64字节的处理器,以及共享变量不会被频繁的写,因为使用追加字节的方式需要处理器读取更多的字节到高速缓冲区,这需要消耗一定的性能,如果共享变量不会被频繁的写,就没有必要增加字节。)
synchronized的实现原理与应用
- synchronized最初被称为重量级锁。在Java SE1.6中为了减少获得锁和释放锁带来的性能消耗对synchronize进行了优化,引入了偏向锁和轻量级锁,并对锁的存储结构进行了升级。
- synchronized实现同步的基础:Java中的每一个对象都可以当做锁,表现为以下三种情况。
- 对于普通同步方法,锁是当前实例对象。
- 对于静态同步方法,锁是当前类的Class对象。
- 对于同步方法快,锁是synchronized括号里的配置的对象。
- 当一个线程试图访问同步代码块的时候,它必须得到锁,退出或抛出异常的时候必须释放锁。
- 在JVM规范里可以看到synchronized在JVM里的实现原理,JVM基于进入和退出monitor(监视器)对象来实现方法同步和代码块同步,两者细节不同。代码块同步使用的是monitorenter(监控中心)和monitorexit(退出出口)指令来实现的,方法同步使用的是令一种方法,JVM规范中没有说明。但是方法的同步也可以使用这个两个指令来实现。
- monitorenter指令是在编译后插入到同步代码块的开始位置,而monitorexit是插入到方法结束和异常处,JVM要保证每个monitorenter都有相应的monitorexit与之配对。任何对象都有一个monitor相关联。并且一个monitor被持有后,它将处于锁定状态。线程执行到monitorenter指令的时候,将会尝试获取对象所对应的monitor的所有权,就是说尝试获取对象的锁。
Java对象头
-
synchronized用的锁是存在Java对象头里的。Java对象头中有Mark Word(存储对象自身运行时数据)、Class Metadata Address(存储对象类型数据的指针)、Array Length(对象数组的长度)。
-
Java对象头里的Mark Word里默认存储对象的HashCode、分代年龄和锁标记位。
-
32位JVM的Mark Word的存储结构
-
64位JVM的Mark Word的存储结构
锁的升级与对比
- 在Java SE1.6中为了减少获得锁和释放锁带来的性能消耗,引进了“偏向锁”和“轻量级锁”,在Java SE1.6中,锁一共有四种状态,级别从低到高依次为:无锁状态、偏向锁状态、轻量级锁状态、和重量级锁状态,这几个锁状态会随着竞争情况逐渐升级。锁可以升级但是不能降级,这种可以升级但是不能降级的策略,目的是为了提高获得锁和释放锁的效率。
偏向锁
- 偏向锁概念
大多数情况下,锁不仅不存在多线程竞争,而且总是由同一线程多次获得,为了让线程获得锁的代价更低而引入了偏向锁。当一个线程访问同步代码块并获得锁的时候,会在对象头和栈帧中的锁记录里存储锁偏向的线程ID,以后该线程在进入和退出同步块时不需要进行CAS操作来加锁和解锁,只需要简单的测试一下对象头的Mark Word里是否存储着指向当前线程的偏向锁。如果测试成功,表示线程已经获得了锁。如果测试失败则需要再测试一下Mark Word中偏向锁的标识是否设置成1(1表示当前是偏向锁,0表示不是):如果没有设置,则使用CAS竞争锁;如果设置了,则尝试使用CAS将对象头的偏向锁指向当前线程。(CAS:Campare and Swap意思是比较并交换,CAS操作需要输入两个数值,一个旧值,一个新值,在操作期间先比较旧值有没有发生变化,如果没有发生变化,才交换新值,发生了变化则不交换) - 偏向锁的撤销
偏向锁使用了一种等到竞争出现才释放锁的机制,所以当其他线程尝试竞争偏向锁的时候,持有偏向锁的线程才会释放锁。偏向锁的撤销,需要等待全局安全点(在这个时间点上没有正在执行的字节码)。它会首先暂停拥有偏向锁的线程,然后检查持有偏向锁的线程是否活着,如果线程不在活动状态,则将对象头设置成无锁状态;如果线程仍然活着,拥有偏向锁的栈会被执行,遍历偏向对象的锁记录,栈中的锁记录和对象头的Mark Word要么重新偏向于其他线程,要么恢复到无锁状态或者标记对象不适合作为偏向锁,最后唤醒暂停的线程。 - 关闭偏向锁
偏向锁是默认启动的,但是在应用程序启动几秒钟后才激活,如果有必要可以用JVM参数来关闭延迟:-XX:BiasedLockingStartupDelay=0。如果确定应用程序里所有的锁通常都处于竞争状态,可以通过JVM参数关闭偏向锁:-XX:-UseBiasedLocking=false,那么程序会默认进入轻量级锁状态。 - 偏向锁流程
轻量级锁
- 轻量级锁加锁
线程在执行代码块之前,JVM会先在当前线程的帧栈中创建用于存储锁记录的空间,并将对象头中的Mark Word复制到锁记录中,官方称为Displaced Mark Word(为毛叫这个名字被取代的Mark Word????不解)。然后线程尝试使用CAS将对象头中的Mark Word替换为指向锁记录的指针。如果成功,当前线程获得锁,如果失败,表示其他线程竞争锁,当前线程便尝试使用自旋来获得锁。 - 轻量级锁解锁
轻量级解锁时,会使用原子的CAS操作将Displaced Mark Word替换回到对象头,如果成功,则表示没有竞争发生。如果失败,表示当前锁存在竞争,锁会膨胀为重量级锁。
因为自旋会消耗CPU为了避免无用的自旋(比如获得锁的线程被阻塞住了),一旦锁升级成重量级锁,就不会再恢复到轻量级锁状态。当锁处于这个状态的时候,其他线程试图获得锁的时候都会被阻塞,当持有锁的线程释放锁之后会唤醒这些线程,被唤醒的线程就会进行新一轮的夺锁之争。
锁的优缺点对比
(本书暂停学习,本书对与我来说需要再学习一些其他的知识。)