Java 内存模型与线程

并发处理的广泛应用是使得Amdahl定律代替摩尔定律成为计算机性能发展源动力的根本原因，也是人类“压榨”计算机运算能力的最有力武器。

---

概述

• 多任务处理在现代计算机操作系统中几乎已是一项必备的功能了。在许多情况下，让计算机同时去做几件事情，不仅是因为计算机的运算能力强大了，还有一个很重要的原因是计算机的运算速度与他的存储和通信子系统速度的差距太大，大量的时间都花费在磁盘 IO、网络通信或者数据库访问上。所以就必须使用一些手段去把处理器的运算能力“压榨”出来，而让计算机同时处理几项任务则是最容易想到、也被证明是非常有效的压榨手段。
• 衡量一个服务性能高低好坏，每秒事务处理数（Transactions Per Second，TPS）是最重要的指标之一，它代表着一秒内服务端平均能响应的请求总数，而 TPS 值与程序的并发能力又有非常密切的关系。对于计算量相同的任务，程序线程并发协调的越有条不紊，效率自然就会越高；反之，线程之间频繁阻塞甚至死锁，将会大大降低程序的并发能力。

硬件的效率与一致性

• 由于计算机的存储设备与处理器的运算速度有几个数量级的差距，所以现代计算机系统都不得不加入一层读写速度尽可能接近处理器运算速度的高速缓存来作为内存与处理器之间的缓冲：将运算需要使用到的数据复制到缓存中，让运算能快速进行，当运算结束后再从缓存同步回内存之中，这样处理器就无需等待缓慢的内存读写了。
• 基于高速缓存的存储交互很好地解决了处理器与内存的速度矛盾，但是也为计算机系统带来更高的复杂度，因为它引入了一个新的问题：缓存一致性。在多处理器系统中，每个处理器都有自己的高速缓存，而它们又共享同一主内存。当多个处理器的运算任务都涉及同一快主内存区域时，将可能导致各自的缓存数据不一致。
• 除了增加高速缓存之外，为了使得处理器内部的运算单元尽量被充分利用，处理器可能会对输入代码进行乱序执行优化，处理器会在计算之后将执行的结果重组，保证该结果与顺序执行的结果是一致的，但并不保证程序中各个语句计算的先后顺序与输入代码中的顺序一致。与处理器的乱序执行优化类似，Java 虚拟机的即时编译器中也有类似的指令重排序优化。

Java 内存模型

• Java 虚拟机规范中试图定义一种 Java 内存模型（Java Memory Model，JMM）来屏蔽掉各种硬件和操作系统的内存访问差异，以实现让 Java 程序在各种平台下都能达到一致的内存访问效果。

主内存与工作内存

Java 内存模型的主要目标是定义程序中各个变量的访问规则，即在虚拟机中将变量存储到内存和从内存中取出变量这样的底层细节。此处的变量与 Java 编程中所说的变量有所区别，它包括了实例字段、静态字段和构成数组对象的元素，但不包括局部变量、方法参数，因为后者是线程私有的。

Java 内存模型规定了所有的变量都存储在主内存中，每条线程还有自己的工作内存，线程的工作内存保存了被该线程使用到的变量的主内存副本拷贝，线程对变量的所有操作都必须在工作内存中进行，而不能直接读写主内存中的变量。不同的线程之间也无法直接访问对方工作内存中的变量，线程间变量值的传递均需要通过主内存来完成，线程、主内存、工作内存三者的交互关系如图（图片来源网络）：

内存间交互操作

• 一个变量如何从主内存拷贝到工作内存，如何从工作内存同步回主内存之类的实现细节，Java 内存模型中定义了以下 8 种操作来完成，虚拟机实现时必须保证下面提及的每一种操作都是原子的、不可再分的。

  • lock（锁定）：作用于主内存的变量，把一个变量标识为一条线程独占状态。
  • unlock（解锁）：作用于主内存的变量，把一个处于锁定状态的变量释放出来，释放后的变量才可以被其他线程锁定。
  • read（读取）：作用于主内的变量，把一个变量的值从主内存传输到线程的工作内存中，以便随后的load动作使用。
  • load（载入）：作用于工作内存的变量，把read读取操作从主内存中得到的变量值放入工作内存的变量拷贝中。
  • use（使用）：作用于工作内存的变量，把工作内存中一个变量的值传递给执行引擎，每当虚拟机遇到一个需要使用到变量值的字节码指令时将会执行该操作。
  • assign（赋值）：作用于工作内存变量，把一个从执行引擎接收到的变量的值赋值给工作内存的变量，每当虚拟机遇到一个给变量赋值的字节码指令时执行该操作。
  • store（存储）：作用于工作内存的变量，把工作内存中一个变量的值传送到主内存中，以便随后的write操作使用。
  • write（写入）：作用于主内存的变量，把store操作从工作内存中得到的变量值放入主内存的变量中。

• 如果要把一个变量从主内存复制到工作内存，那就要顺序地执行 read 和 load 操作，如果要把变量从工作内存同步回主内存，就要顺序地执行 store 和 write 操作。除此之外，Java 内存模型还规定了在执行上述 8 种基本操作时必须满足如下规则：

  • 不允许 read 和 load、store 和 write 操作之一单独出现
  • 不允许一个线程丢弃它的最近 assign 的操作，即变量在工作内存中改变了之后必须同步到主内存中。
  • 不允许一个线程无原因地（没有发生过任何assign操作）把数据从工作内存同步回主内存中。
  • 一个新的变量只能在主内存中诞生，不允许在工作内存中直接使用一个未被初始化（load 或 assign）的变量。即就是对一个变量实施 use 和 store 操作之前，必须先执行过了 assign 和 load 操作。
  • 一个变量在同一时刻只允许一条线程对其进行 lock 操作，lock 和 unlock 必须成对出现
  • 如果对一个变量执行 lock 操作，将会清空工作内存中此变量的值，在执行引擎使用这个变量前需要重新执行 load 或 assign 操作初始化变量的值
  • 如果一个变量事先没有被 lock 操作锁定，则不允许对它执行 unlock 操作；也不允许去 unlock 一个被其他线程锁定的变量。
  • 对一个变量执行 unlock 操作之前，必须先把此变量同步到主内存中（执行 store 和 write 操作）。

对于 volatile 型变量的特殊规则

• 请参考【volatile 关键字】

原子性、可见性与有序性

• 原子性：由 Java 内存模型来直接保证的原子性变量操作包括 read、load、assign、use、store 和 write，我们大致可以认为基本数据类型的访问读写是具备原子性的。
• 可见性：可见性是指当一个线程修改了共享变量的值，其他线程能够立即得知这个修改。volatile 的特殊规则保证了新值能立即同步到主内存，以及每次使用前立即从主内存刷新。因此，可以说 volatile 保证了多线程操作时变量的可见性，而普通变量则不能保证这一点。除了 volatile 之外，Java 还有两个关键字能实现可见性，即 synchronized 和 final。
• 有序性：Java 程序中天然有序性可以总结为一句话：如果在本线程内观察，所有的操作都是有序的；如果在一个线程中观察另一个线程，所有的操作都是无序的。前半句是指“线程内表现为串行的语义”，后半句是指“指令重排序”现象和“工作内存与主内存同步延迟”的现象。

先行发生原则（happens-before 原则）

• 这个原则非常重要，它是判断数据是否存在竞争、线程是否安全的主要依据，依靠这个原则，我们可以通过几条规则一揽子地解决并发环境下两个操作之间是否可能存在冲突的所有问题。
• 下面是 Java 内存模型下一些“天然的”先行发生关系，这些先行发生关系无须任何同步器协助就已经存在，可以在编码中直接使用。如果两个操作之间的关系不在此列，并且无法从下列规则推导出来的话，他们就没有顺序性保障，虚拟机可以对它们随意地进行重排序。
  • 程序次序规则：同一个线程内，按照代码出现的顺序，前面的代码先行于后面的代码，准确的说是控制流顺序，因为要考虑到分支和循环结构。
  • 管程锁定规则：一个 unlock 操作先行发生于后面（时间上）对同一个锁的 lock 操作。
  • volatile 变量规则：对一个 volatile 变量的写操作先行发生于后面（时间上）对这个变量的读操作。
  • 线程启动规则：Thread 的 start() 方法先行发生于这个线程的每一个操作。
  • 线程终止规则：线程的所有操作都先行于此线程的终止检测。可以通过 Thread.join() 方法结束、Thread.isAlive() 的返回值等手段检测线程的终止。
  • 线程中断规则：对线程 interrupt() 方法的调用先行发生于被中断线程的代码检测到中断事件的发生，可以通过 Thread.interrupt() 方法检测线程是否中断
  • 对象终结规则：一个对象的初始化完成先行于发生它的 finalize() 方法的开始。
  • 传递性：如果操作 A 先行于操作 B，操作 B 先行于操作 C，那么操作 A 先行于操作 C。

---

Java 与线程

• 并发不一定要依赖多线程，但是在 Java 里面谈论并发，大多是都与线程脱不开关系。

线程的实现

• 我们注意到 Thread 类与大部分的 Java API 有显著的区别，它的所有关键方法都是申明为 Native 的。在 Java API 中，一个 Native 方法往往意味着这个方法没有使用或无法使用平台无关的手段来实现。正因为如此，本节的标题定为“线程的实现”，而不是“ Java 线程的实现”。
• 实现线程主要有 3 种方式：使用内核线程实现、使用用户线程实现和使用用户线程加轻量级进程混合实现。
  • 使用内核线程实现，内核线程就是直接由操作系统内核支持的线程，这种线程由内核来完成线程切换。程序一般不会直接去使用内核线程，而是去使用内核线程的一种高接口——轻量级进程，就是我们通常意义上讲的线程。
    轻量级进程具有它的局限性：首先由于是基于内核线程实现的，所以各种线程操作，如创建、析构及同步，都需要进行系统调用。而系统调用的代价相对较高，需要在用户态和内核态中来回切换。其次，每个轻量级进程都需要一个内核线程的支持，因此轻量级进程要消耗一定的内核资源。
  • 使用用户线程实现，广义上讲，一个线程只要不是内核线程，就可以认为是用户线程。而狭义上的用户线程指的是完全建立在用户空间的线程库上，系统内核不能感知线程的存在。用户线程的建立、同步、销毁和调度完全在用户态中完成，不需要内核的帮助。如果程序实现得当， 这种线程不需要切换到内核态，因此操作可以是非常快速且低消耗的，也可以支持规模更大的线程数量，部分高性能数据库中的多线程就是由用户线程实现的。
  • 使用用户线程加轻量级进程混合实现，还有一种将内核线程与用户线程一起使用的实现方式。在这种混合实现下，即存在用户线程，也存在轻量级进程。用户还是完全建立在用户空间中，因此用户线程的创建、切换、析构等操作依然廉价，并且可以支持大规模的用户线程并发。而操作系统提供支持的轻量级进程则作为用户线程和内核线程之间的桥梁。

Java 线程调度

• 线程调度是指系统为线程分配处理器使用权的过程，主要调度方式有两种，分别是协同式调度和抢占式线程调度。
• 协同式调度的多线程系统，线程的执行时间优先成本身来控制，线程把自己的工作执行完了之后，要主动通知系统切换到另一个线程上。好处是：实现简单，坏处也明显：线程执行时间不可控。
• 抢占式线程调度，每个线程将由系统来分配执行时间，线程的切换不由线程本身来决定。

状态转换

• Java 语言定义了 5 种线程状态，在任意一个时间点，一个线程只能有且只有其中的一种状态，这五种状态分别如下：
• 1）新建（New）：创建后尚未启动的线程处于这种状态。
• 2）运行（Runable）：Runable 包括了操作系统线程状态中的 Running 和 Ready，也就是处于此状态的线程有可能正在执行，也有可能正在等待着 CPU 为它分配执行时间。
• 3）无限期等待（Waiting）：处于这种状态的线程不会被分配 CPU 执行时间，它们要等待被其它线程显示地唤醒。以下方法会让线程陷入无限期的等待状态：
  • 没有设置 Timeout 参数的 Object.wait() 方法
  • 没有设置 Timeout 参数的 Thread.join() 方法
  • LockSupport.park() 方法
• 4）限期等待（Timed Waiting）：处于这种状态的线程也不会被分配 CPU 执行时间，不过无须等待被其它线程显示地唤醒，在一定时间之后它们会由系统自动唤醒。以下方法会让线程进入限期等待状态：
  • Thread.sleep() 方法
  • 设置了 Timeout 参数的 Object.wait() 方法
  • 设置了 Timeout 参数的 Thread.join() 方法
  • LockSupport.parkNanos() 方法
  • LockSupport.parkUntil() 方法
• 5）阻塞（Blocked）：线程被阻塞了，“阻塞状态”与“等待状态”的区别是：“阻塞状态”在等待着获取到一个排它锁，这个事件将在另外一个线程放弃这个锁的时候发生；而“等待状态”则是在等待一段时间，或者唤醒动作的发生。在程序等待进入同步区域的时候，线程将进入这种状态。
• 6）结束（Terminated）：已终止线程的线程状态，线程已经结束执行。

---

笔记来源：《深入理解Java虚拟机》第十二章 Java 内存模型与线程（P360）。