Java线程之间的通信对程序员完全透明,内存可见性问题很容易困扰Java程序员。
Java内存模型
并发编程模型的两个关键问题,线程之间如何通信及线程之间如何同步,通信是指线程之间使用什么机制来交换信息。在命令式编程中,线程之间的通信机制由两种:共享内存和消息传递。
在共享内存的并发模型里,线程之间共享程序的公开状态,通过写-读内存中的公共状态进行隐式通信。在消息传递的并发模型里,线程之间没有公共状态,线程之间必须通过发送消息来显示进行通信。
Java的并发采用的是共享内存模型,Java线程之间的通信总是隐式进行,整个通信过程对程序员完全透明。如果编写多线程程序的Java程序员不理解隐式进行的线程之间通信机制,很可能会遇到各种奇怪的内存可见性问题。
Java内存模型的抽象结构
在Java中,所有实例域、静态域和数组元素都存储在堆内存中,堆内存在线程之间共享。局部变量,方法参数和异常处理参数不会在线程共享,他们不会有内存可见性问题,也不受内存模型影响。
Java线程之间的通信由Java内存模型(JMM)控制,JMM决定一个线程对共享变量的写入时对另一个线程可见。从抽象的角度来看,JMM定义了线程和主内存之间的抽象关系:线程之间的共享变量存储在主内存(Main Memory)中,每个线程都有一个私有本地内存(Local Memory),本地内存中存储了该线程以读/写共享变量的副本。本地内存是JMM的一个抽象概念,并不真实存在,它包含缓存、写缓冲区、寄存器以及其他硬件和编译器优化。Java内存模型的抽象示意图如下:
线程A把本地内存A中更新过的共享变量刷新到主内存中去。
线程B到主内存中去读取线程A之前已经更新过的共享变量。
下图描述这两步
本质上是线程A在向线程B发送消息,而且这个通信过程必须要经过主内存。JMM通过控制主内存与每个线程的本地内存之间的交互,来为Java程序提供内存可见性保证。
从源代码到指令序列的重排序
CPU在执行程序时,为了提高性能,编译器和处理常常会对指令做重排序,重排序分3中类型。
- 编译器优化的重排序,编译器在不改变单线程语义的前提下,可以通过重新安排语句的执行顺序。
- 指令级并行的重排序,现代处理器采用了指令级并行技术(Instruction-Level Parallelism,ILP)来讲多条指令重叠执行。如果不存在数据依赖,处理器可以改变语句对应机器指令的执行顺序。
- 内存系统的重排序,由于处理器使用缓存和读/写缓冲区,这使得加载和存储操作看上去可能是在乱序执行。
从Java源代码到最终实际执行的指令序列,会分别经历下面3中重排序,如图-3
1属于编译器重排序,2-3属于处理器重排序。对于编译器,JMM的编译器重排序规则会禁止特定类型的编译重排序。对于处理的重排序,JMM处理器重排序规则要求Java编译器在生成指令时,插入特定类型的内存屏障(Memory Barriers)指令,通过内存屏障指令来禁止特定类型的处理器重排序。
内存屏障
为了保证内存可见性,Java编译器在生成指令序列的适当位置会插入内存屏障指令来禁止特定类型的处理器重排序。JMM把内存屏障指令分为4类。
屏障类型 | 指令示例 | 说明 |
LoadLoad Barriers | Load1; LoadLoad; Load2 | 确保Load1数据的装载先于Load2以及 所有后续装载指令的装载 |
StoreStore Barriers | Store1;StoreStore;Store2 | 确保Store1数据对其他处理器可见(刷新到内存) 先于Store2以及所有后续存储指令的存储 |
LoadStore Barriers | Load1;LoadStore;Store2 | 确保Load1数据装载先于Store2以及后续的 存储指令刷新到内存 |
StoreLoad Barriers | Store1;StoreLoad;Load2 | 确保Store1数据对其他处理器变得可见(指刷新到内存) 先于Load2以及所有后续装载指令的装载. StoreLoad Barriers会使该屏障之前的所有内存访问指令 (存储和装载指令)完成之后,才执行该屏障之后的 内存访问指令。 |
StoreLoad Barriers是一个全能型的屏障,它同时具有其他3个屏障的效果。现代多数处理器器支持该屏障,执行该屏障的开销很昂贵,因为当前处理器通常要把写缓冲区中的数据全部刷到内存中(Buffer Fully Flush).
happens-before
从JDK5开始,Java使用新的JSR-133内存模型,JSR-133使用happens-before的概念阐述操作之间的内存可见性。如果一个操作执行的结果要对另一个操作可见,那么这两个操作之间必须要存在happens-before关系。两个操作可以同一个线程也可以是不同线程。
happens-before规则
- 程序顺序规则,一个线程中的每个操作,happens-before于该线程中的任意后续操作
- 监视器锁规则,对于一个锁的解锁,happens-before于随后对这个锁的加锁
- volatile变量规则,对一个volatile域的写,happens-before于任意后续对这个volatile域的读
- 传递性,如果A happens-before B,且B happens-before C,那么A happens-before C
happens-before与JMM的关系如下图: