首先要知道为什么会有Java内存模型这个东西。我们知道CPU运算速度是很快的,但是往往一个运算任务的快慢不只是取决于CPU的速度,因为其中还会涉及到CPU与内存的交互,这些I/O操作往往限制了运算速度。所以现代操作系统都引入了一层高速缓存作为内存和CPU之间的桥梁,如下图所示。但是这时候会引入一个新的问题:缓存一致性:每个处理器都有自己的高速缓存,而他们又共享同一主存。所以当多个核心共享利用同一块内存区域时以谁的缓存数据为准就成了问题。因而为解决这样的一致性问题,需要各个处理器访问缓存时都遵循一些协议,在读写时要根据此协议来进行操作。而我们所说的“内存模型”,可以理解为在特定的操作协议下,对特定的内存或高速缓存进行读写访问的过程抽象。
除了增加高速缓存以外,为使处理器内部的运算单元可以被尽量利用,处理器可能会对输入代码进行乱序执行优化。其实就是会打乱代码的执行顺序,使得它们执行的先后顺序和定义顺序不一致,但保证最后的执行结果是一致的。Java虚拟机的即时编译器中也有类似的指令重排序优化。那我们就开始讲一下Java内存模型都包含哪些东西。
1. 主内存与工作内存
Java内存模型的主要目标就是定义程序中各个变量的访问规则,即在虚拟机中将变量存储到内存和从内存中取出变量这样的底层细节。当然这里的变量主要是Java中的实例字段、静态字段和构成数组对象的元素,但不包括局部变量与方法参数,因为后者是线程私有的,不会被共享,也就没有竞争问题。
Java内存模型规定所有的变量都存储在主内存中(可与前面讲的物理硬件的主内存类比)、每条线程还有自己的工作内存(可与前面讲的高速缓存类比),线程的工作内存中保存了被该线程使用到的变量的主内存副本拷贝。线程对变量的所有操作(读取、赋值)都必须在工作内存中进行,而不能直接读写主内存中的变量。所以不同的线程之间也就无法直接访问对方工作内存中的变量,线程间变量值的传递均需要通过主内存来完成。线程、主内存、工作内存交互关系如图:
2.内存间交互操作
Java内存模型中定义了一下8中操作来完成变量在主内存和工作内存之间传输的细节,而且每一种操作都是原子的、不可再分的。
- lock(锁定):作用于主内存的变量,它把一个变量标识为一条线程独占的状态。
- unlock(解锁):作用于主内存的变量,它把一个处于锁定状态的变量释放出来,释放后的变量才可以被其他线程锁定。
- read(读取):作用于主内存的变量,它把一个变量的值从主内存传输到线程的工作内存中,以便随后的load动作使用。
- load(载入):作用于工作内存的变量,它把从read操作从主内存中得到的变量值放入工作内存的变量副本中。
- use(使用):作用于工作内存的变量,它把工作内存中的一个变量的值传递给执行引擎,每当虚拟机遇到一个需要使用变量的值的字节码指令时将会执行这个操作。
- assign(赋值):作用于工作内存的变量,它把一个执行引擎接收到的值赋给工作内存的变量,每当虚拟机遇到一个给变量赋值的字节码指令时执行这个操作。
- store(存储):作用于工作内存的变量,它把工作内存中一个变量的值传送到主内存中,以便随后的write操作使用。
- write(写入):作用于主内存的变量,它把store操作从工作内存中得到的变量的值放入主内存的变量中。
如果要把一个变量从主内存复制到工作内存,那就要顺序地执行read和load操作,如果要把变量从工作内存同步回主内存,就要顺序地执行store和write操作。要注意,Java内存模型只要求上述两个操作必须按顺序执行,而没有保证是连续执行。也就是在read和load之间、store和write之间是可插入其他指令的,如对主内存中的变量a、b进行访问时,一种可能出现的顺序是read a、read b、load b、load a。当然Java内存模型还规定在执行上述8中基本操作时必须满足如下规则:
- 不允许read和load、store和write操作之一单独出现,即不允许一个变量从主内存读取了但是工作内存不接受,或者从工作内存发起回写了但主内存不结束的情况出现。
- 不允许一个线程丢弃它的最近的assign操作,即变量在工作内存中改变了之后必须把该变化同步回主内存。
- 不允许一个线程无原因的(没有发生过任何assign操作)把数据从线程的工作内存同步回主内存中。
- 一个新的变量只能在主内存中“诞生”,不允许在工作内存中直接使用一个未被初始化(load或assign)的变量,换句话说,就是对一个变量实施use、store操作之前,必须先执行过了assign和load操作。
- 一个变量在同一个时刻只允许一条线程对其进行lock操作,但lock操作可以被同一条线程重复执行多次,多次执行lock后,只有执行相同次数的unlock操作,变量才会被解锁。
- 如果对一个变量执行lock操作,那将会清空工作内存中此变量的值,在执行引擎使用这个变量前,需要重新执行load或assign初始化变量的值。
- 如果一个变量事先没有被lock操作锁定,那就不允许对它执行unlock操作,也不允许去unlock一个没被其他线程锁住的变量。
- 对一个变量执行unlock操作之前,必须先把此变量同步回内存中(执行store、write操作)。
3.对于volatile型变量的特殊规则
3.1可见性
先说一下这个关键字的用处,当一个变量定义为volatile之后,它将具备两种特性,第一是保证此变量对所有线程的可见性,这里的“可见性”是指当一条线程修改了这个变量的值,新值对于其他线程来说是可以立即得知的。而普通变量不能做到这一点,普通变量的值在线程间传递均需要通过主内存来完成。例如一个线程A修改了一个值,只有把它写回到主内存中,另一个线程B才“可见”这个新的变量。
虽然它对所有线程可见,即volatile变量在各个线程中是一致的,但是它并不是线程安全的。因为Java里面的运算并非原子操作,导致volatile变量的运算在并发下一样是不安全的。我们可以看一下代码:
public class VolatileTest {
public static volatile int race = 0;
public static void increase() {
race++;
}
private static final int THREADS_COUNT = 20;
public static void main(String[] args) {
Thread[] threads = new Thread[THREADS_COUNT];
for (int i = 0; i < THREADS_COUNT; i++) {
threads[i] = new Thread(new Runnable() {
@Override
public void run() {
for (int j = 0; j < 10000; j++) {
increase();
}
}
});
threads[i].start();
}
while (Thread.activeCount() > 1)
Thread.yield();
System.out.println(race);
}
}
按理说启动了20个线程,每个线程对race变量增加10000次,并发正确的话应该最后结果是200000.但会发现,输出的值总是小于它。问题就在自增运算“race++”中,通过Javap反编译可得到increase()方法在Class文件中是由4条字节码指令构成的:当getstatic指令把race的值取到操作栈顶时,volatile关键字保证了race的值在此时是正确的,但在执行iconst_1、iadd这些指令时,其他线程可能已经把race的值加大了,而在操作栈顶的值就变成了过期的数据,所以putstatic指令执行后就可能把较小的race值同步回主内存中。
所以除了以下两种情况外,其他时候也要通过加锁来保证原子性:
- 运算结果并不依赖变量的当前值,或者能够确保只有单一的线程修改变量的值。
- 变量不需要与其他的状态变量共同参与不变约束。
3.2禁止重排序
使用volatile变量的第二个语义是禁止指令重排序优化。普通的变量仅仅会保证在该线程方法的执行过程中所有依赖赋值结果的地方都能获取到正确的结果,而不能保证变量赋值操作的顺序与程序代码中的执行顺序一致。例如如下代码:
Map configOptions;
char[] configText;
//此变量须定义为volatile
volatile boolean initialized = false;
//假设一下代码在线程A中执行,完成读取配置信息并置initialized为true
configOptions= new HashMap();
configText = readConfigFile(fileName);
processConfigOptions(configText, configOptions);
initialized = true;
//假设以下代码在线程 B中执行,等待initialized为true,代表线程A已经把配置信息初始化完成
while(!initialized) {
sleep();
}
doSomethingWithConfig();
上面这段伪代码就是先初始化各种配置,然后再利用初始化后的配置信息做一些事。如果定义initialized变量时没有使用volatile修饰,就可能会由于指令重排序的优化,导致位于线程A中最后一句的代码“initialized=true”被提前执行,这样线程B使用的配置信息就会出错,但volatile关键字可以避免此类情况发生。
4.对于long和double型变量的特殊规则
Java内存模型要求lock、unlock、read、assign、use、store、write这8个操作都具有原子性,但是对于64位的数据类型(long和double)模型中特别定义了一条相对宽松的规定:允许虚拟机将没有被volatile修饰的64位数据的读写操作划分为两次32位的操作来进行,即允许虚拟机实现选择可以不保证64位数据类型的load、store、read和write这4个操作的原子性,这点就是所谓的long和double的非原子性协定。
这也就会导致一个结果,当多个线程共享一个并未声明为volatile的long或double类型的变量时,且同时对他们进行读取和修改操作,那么某些线程可能会读取到一个既非原值,也不是其他县城修改值的代表了“半个变量”的数值。但实际情况中各种商用JVM都选择把64位数据的读写操作作为原子操作来对待,所以不用特意把long或者double声明为volatile。
5. 原子性、可见性与有序性
上面讲了这么多,其实所有的操作目的都是为了围绕并发过程中这三个特性来设计实现的,我们可以看一下每个特性分别对应了JVM中的哪些设计原则。
5.1原子性
Java内存模型直接保证的原子性操作包括read、load、asign、use、store、和write,基本数据类型的访问读写都可认为是具备原子性的。当然Java内存模型还提供了更大范围的原子性保证,即lock和unlock操作,当然要使用更高层次的字节码指令monitorenter和monitorexit来隐式的使用这两个操作,而这两个字节码指令反映到Java代码中就是同步块—synchronized关键字。
5.2 可见性
可见性是指当一个线程修改了共享变量的值,其他线程能够立即得知这个修改,valitile可以实现。Java内存模型是通过在变量修改后将新值同步回主内存,在变量读取前从主内存刷新变量值这二种依赖主内存作为传递媒介的方式来实现可见性的,普通变量和volatile变量都是。只是两者区别在于volatile的特殊规则保证了新值能立即同步到主内存,以及每次使用前立即从主内存刷新。
当然还有两个关键字能够实现可见性,即synchronized和final。
- 同步块的可见性是由==“对一个变量执行unlock操作之前,必须先把此变量同步回主内存中(执行store、write操作)==”这条规则获得的;
- 而final关键字的可见性是指,被final修饰的字段在构造器中一旦初始化完成,并且构造器没有把“this”的引用传递出去,那在其他线程中就能看见final字段的值。
5.3 有序性
Java中天然的有序性可以总结为一句话:如果在本线程内观察,所有的操作都是有序的;如果在一个线程中观察另一个线程,所有的操作都是无需的。前半句是指“线程内表现为串行的语义”,后半句是指“指令重排序”现象和“工作内存与主内存同步延迟”现象。
Java中提供了volatile和synchronized两个关键字来保证线程之间操作的有序性,volatile关键字本身就包含了禁止指令重排序的语义,而sunchronized则是由“一个变量在同一个时刻只允许一条线程对其进行lock操作”这条规则获得的,这条规则决定了持有同一个锁的两个同步块只能穿行的进入。
6. 先行发生原则
先行发生是Java内存模型中定义的两项操作之间的偏序关系,如果说操作A先行发生于操作B,其实就是说在发生操作B之前,操作A产生的影响能被操作B观察到,“影响”包括修改了内存中共享变量的值、发送了消息、调用了方法等。可以举一个例子
//以下操作在线程A中执行
i = 1;
//以下操作在线程B中执行
j = i;
//以下操作在线程C中执行
i = 2;
加入线程A中的操作“i = 1
”先行发生于线程B的操作“j = i
”,那么可以确定线程B中的j一定等于1.现在考虑线程C,依然保持线程A和线程B之间的先行发生关系,而线程C出现在线程A和线程B的操作之间,但是线程C与线程B没有先行发生关系,那么此时j的值就不一定了。因为线程C对变量i的影响可能不会被线程B观察到。
下面是Java内存模型下一些“天然的”先行发生关系,这些先行发生关系无需任何同步器协助就已经存在。
- 程序次序规则:在一个县城内,按照程序代码顺序,书写在前面的操作先行发生于书写在后面的操作。
- 管程锁定规则:一个unlock操作先行发生与后面对同一个锁的lock操作。
- volatile变量规则:对一个volatile变量的写操作先行发生与后面对这个变量的读操作,这里的“后面”是指时间上的先后顺序。
- 线程启动规则:Thread对象的start()方法先行发生于此线程的每一个动作。
- 线程终止规则:线程中所有操作都先行发生于对此线程的中指监测,我们可以通过Thread.join()方法结束、Thread.isAlive()的返回值等手段检测到线程已经终止执行。
- 线程中断规则:对县城interrupt()方法的调用先行发生与被中断县城的代码检测到中断事件的发生,可以通过Thread.interrupted()方法检测到是否有中断发生。
- 对象终结规则:一个对象的初始化完成(构造函数执行结束)先行发生与它的finalize()方法的开始。
- 传递性:如果操作A线兴发生于操作B,操作B先行发生于操作C,那就可以得出操作A先行发生于操作C。
接下来通过一段代码看一下“时间上的先后顺序”与“先行发生”之间有什么不同。
private int value = 0;
public void setValue(int value) {
this.value = value;
}
public int getValue() {
return value;
}
假设存在线程A和线程B,线程A先(时间上领先)调用了setValue(1),然后线程B调用了getValue,那么线程B收到的返回值是多少呢?来根据上面提到的Java天生的先行发生关系分析一下:
- 由于两个方法不在同一个线程内执行,所以程序次序规则在这里不适用。
- 由于没有同步块,自然不会发生lock和unlock操作,所以管程锁定规则不适用
- 由于value变量没有被volatile关键字修饰,所以volatile变量规则不适用
- 线程启动、终止、中断规则和对象终结规则也在这里没有作用。
所以虽然这两个操作在时间上是有先后关系的,但是这里的操作也不是线程安全的。那如何修复呢?有两个方案:
- 把getter/setter方法都定义为synchronized方法,这样就可以套用管程锁定规则。
- 把value定义为volatile变量,由于setter方法对value的修改不依赖value的原值,满足volatile关键字使用场景,这样就可以套用volatile变量规则实现先行发生关系。
同样反过来,一个操作“先行发生”也不一定意味着它是“时间上的先发生”,比如重排序问题。代码如下:
int i = 1;
int j = 2;
按照程序次序规则i
的赋值操作是先行发生于j
的赋值操作,但是这并不能保证j
的赋值操作一定比i
的赋值操作后执行。还有上面讲到volatile关键字时的例子,也是由于指令重排序可能会导致先行发生的反而在时间上是后面发生的。
所以结论是时间先后顺序与先行发生原则之间基本没有太大的关系,而且衡量并发安全问题的时候一切必须以先行发生原则为准。