JMM——Java内存模型

JMM——Java内存模型

概述

在许多场景下，让计算机同时去做几件事情，不仅是因为计算机的计算能力强大了，还有一个重要的原因是：计算机的运算速度与它的存储和通信子系统的速度差距太大，大量的时间都花费在磁盘I/O，网络通信或者数据库访问上。如果不希望处理器在大部分时间都处于等待其他资源的空闲状态，就必须使用一些手段把处理器的运算能力"压榨"出来，否则就会造成很大的性能浪费，而让计算机同时处理几项任务是最容易想到，也最有效的“压榨”手段。

每秒事务处理数(Transactions Per Second, TPS)是衡量一个服务器性能高低的重要指标之一，它代表着一秒内服务端能响应的请求总数。Tps的值与程序的并发能力有非常密切的关系。对于计算量相同的任务，线程并发协调得越有条不紊，效率自然就会越高；反之，线程之间频繁争用数据，互相阻塞甚至死锁，将会大大降低程序的并发能力。

硬件的效率与一致性

绝大多数的计算任务都不可能只靠CPU计算就能完成。处理器至少要和内存交互，如读取运算数据，存储运算结果等，这个I/O的操作是很难消除的（无法仅靠寄存器来完成所有计算任务）。所以现代计算机系统都会加入一层或多层的高速缓存（Cache）来作为内存和处理器之间的缓冲：将运算需要使用的数据复制到缓存中，让运算能快速进行，当运算结束后再从缓存同步回内存之中，这样处理器就无需等待缓慢的内存读写。

缓存一致性（Cache Coherence）：在多核处理器系统中，每个处理器都有自己的高速缓存，而他们又共享一个主内存，这种共享内存的多核系统，就有可能导致各自缓存的数据不一致。

为了解决一致性问题，需要各个处理器访问缓存时都遵循一些协议，在读写时要根据协议进行操作，这类协议有MSI、MESI、MOSI、Synapse、FireFly及Dragon Protocol等。

下图为处理器、高速缓存、主内存间的交互关系：

​ 除了增加高速缓存之外，为了使处理器内部的运算单元尽量被充分利用，处理器可能会对输入代码进行乱序执行（Out-Of-Order Execution）优化，处理器会在计算之后将乱序执行的结果重组，保证该结果与顺序执行的结果是一致的，但不保证程序中各个语句计算的先后顺序与输入代码中的顺序一致，因此如果存在一个计算任务依赖另一个计算任务的中间结果，那么其顺序性并不能靠代码的先后顺序来保证。预处理器的乱序执行优化类似，Java虚拟机的即时编译器也有指令重排序（Instruction Reorder）优化。

Java内存模型

Java内存模型的成熟和完善是在JDK1.5（实现了JSR-133，Java内存模型和线程规范修订）发布后。

主内存与工作内存

Java内存模型规定了所有变量都存储在主内存（Main Memory，此处主内存和物理硬件主内存概念相同，但物理上仅是虚拟机内存的一部分）中。每条线程还有自己的工作内存（Working Memory，可与上图高速缓存类比），线程的工作内存中保存了被该线程使用的变量的主内存副本，线程对变量的所有操作（读取、赋值等）都必须在工作内存中进行，而不能直接读写主内存中的数据。不同的线程也无法访问对方工作内存中的变量，线程间的变量值传递均需通过主内存来完成，线程、主内存、工作内存三者的交互关系如下图，注意和上图进行对比：

这里所讲的主内存，工作内存与Java内存区域中的Java堆、栈、方法区等并不是同一个层次对内存的划分，这两者基本上是没有任何关系的。如果两者一定要勉强对应起来，那么从变量，主内存，工作内存的定义来看，主内存主要对应与Java堆中的对象实例数据部分，而工作内存则对应虚拟机栈中的部分区域。从更基础的层次上说，主内存直接对应于物理硬件的内存，而为了获取更高的运行速度，虚拟机（或者是硬件、操作系统本身的优化措施）可能会让工作内存优先存储于寄存器和高速缓存中，因为程序运行时主要访问的是工作内存。

内存间的交互操作

Java内存模型定义了一个变量如何从主内存拷贝到工作内存，如何从工作内存同步回主内存的8种操作，Java虚拟机实现时必须保证下面提及的每种操作都是原子的、不可再分的（对于double和long类型的变量来说，load、store、read、和write操作在某些平台上允许有例外：允许虚拟机将没有被Volatile修饰的64位数据的读写操作划分为两次32位的操作来进行，这就是所谓的“long和double的非原子协定”）

lock（锁定）：作用于主内存的变量，它把一个变量标识为一条线程独占的状态。

unlock（解锁）：作用于主内存的变量，它把一个处于锁定状态的变量释放出来，释放后的变量才可以被其他线程锁定。

read（读取）：作用于主内存的变量，它把一个变量的值从主内存传输到线程的工作内存中，以便随后的load动作使用。

load（载入）：作用于工作内存的变量，它把read操作从主内存得到的变量值放入工作内存的变量副本中。

use（使用）：作用于工作内存的变量，它把工作内存中一个变量的值传递给执行引擎，每当虚拟机遇到一个需要使用变量的值的字节码指令时执行这个操作。

assign（赋值）：作用于工作内存的变量，它把一个从执行引擎接收的值赋给工作内存的变量，每当虚拟机遇到一个给变量赋值的字节码指令时执行这个操作。

store（存储）：作用于工作内存的变量，它把工作内存中的一个变量的值传送到主内存中，以便随后的write操作使用。

write（写入）：作用于主内存的变量，它把store操作从工作内存中得到的变量的值放入主内存的变量中。

如果需要把一个变量从主内存拷贝到工作内存，那么就要顺序执行read和load操作，如果需要把变量从工作内存同步回主内存，就要按顺序执行store和write操作。注意，Java内存模型只要求上述两个操作按顺序执行，但不要求是连续执行。也就是说read和load、store和write之间是可以插入其他指令的，如对主内存中的变量a，b进行访问时，一种可能出现的顺序是read a、read b、read b、read a。

原子性、可见性与有序性

Java内存模型是围绕着在并发过程中如何处理原子性、可见性、有序性这三个特征来建立的。

原子性（Atomicity）

由Java内存模型来直接保证原子性变量操作包括read（读取）、load（载入）、assign（赋值）、use（使用）、store（存储）和write（写入），我们大致可以认为，基本数据类型的访问，读写都是具备原子性的（除了上面所说的long和double的非原子性协定）。

如果应用场景需要一个更大范围的原子性保证（经常会遇到），Java内存模型还提供了lock和unlock操作来满足这种需求，尽管虚拟机未把lock和unlock操作直接开放给用户使用，但是却提供了更高层次的字节码指令monitorenter和monitorexit来隐式的使用这两个操作。这两个字节码指令反映到Java代码中就是同步块——synchronized关键字，因此在synchronized块之间的操作也具备原子性。

可见性（Visibility）

可见性就是指当一个线程许改了共享变量的值时，其他线程能立即得知这个修改。Java内存模型是通过在变量修改后将新值同步回主内存，在变量读取前从主内存刷新变量值这种依赖主内存作为传递媒介的方式来实现可见性的，无论是普通变量还是volatile变量都是如此。普通变量与volatile变量的区别是，volatile的特殊规则保证了新值能立即同步回主内存，以及每次使用前立即从主内存刷新。因此我们可以说volatile保证了多线程操作时变量的可见性，而普通变量则不能保证这一点。

除了volatile之外，Java中还有两个关键字能实现可见性，他们是synchronized和final。同步块的可见性是由“对一个变量执行unlock操作之前，必须先把此变量同步回主内存中（执行store和write操作）”这条规则获得的。而final关键字的可见性是指：被final修饰的字段在构造器中一旦被初始化完成，并且构造器没有把“this”的引用传递出去（this引用逃逸是一件很危险的事情，其他线程有可能通过这个引用访问到“初始化了一半“的对象），那么在其他线程中就能看见final字段的值。如下代码所示，变量i和j都具备可见性，他们无需同步就能被其他线程正确访问。

public static final int i;

public final int j;

static {
    i = 0;
}

{
    j = 0;
}

有序性（Ordering）

总结为一句话：如果在本线程内观察，如有的操作都是有序的；如果在一个线程中观察另一个线程，所有的操作都是无序的。

Java语言提供了volatile和synchronized关键字来保证线程之间操作的有序性，volatile关键字本身就包含了禁止指令重排序的语义，而synchronized则是由“一个变量在同一时刻只允许一条线程对齐进行lock操作”这条规则获得的，这个规则决定了持有同一个锁的两个同步块只能串行的进入。synchronized则是由“一个变量在同一时刻只允许一条线程对齐进行lock操作”这条规则获得的，这个规则决定了持有同一个锁的两个同步块只能串行的进入。