高效并发之Java内存模型与线程（1）

Java内存模型

现代计算机系统加入一层或多层读写速度尽可能接近处理器运算速度的高速缓存来作为内存与处理器之间的缓冲；
Java内存模型主要目的是定义程序中各种变量的访问规则，即关注在虚拟机中把变量存储到内存和从内存中取出变量值这样的底层细节；（这里的变量指的是实例字段，静态字段和构成数组对象的元素，不包括局部变量与方法参数，因为它们是线程私有，不会被共享）

主内存与工作内存

• 所有的变量都存储在主内存，（物理上是虚拟机内存的一部分）
• 每条线程都有自己的工作内存。工作内存保存了被该线程使用的变量的主内存副本，线程对变量的所有操作都必须在工作内存中进行，而不能直接读写主内存中的数据；
• 线程间变量的传递需要通过主内存来完成；
• 主内存主要对应Java堆中的对象实例部分，工作内存则对应虚拟机栈中的部分区域；
• 为了获得更好的运行速度，虚拟机或硬件、操作系统本身的优化可能会让工作内存优先于存储于寄存器和高速缓存中，程序运行时主要访问的是工作内存；

内存间交互操作

• Java内存模型定义了8种操作来完成，必须保证每一种操作都是原子性的，不可再分的：

  • lock(锁定)：作用于主内存变量，把一个变量标记为一条线程独占状态
  • unlock(解锁)：作用于主内存变量，把一个处于锁定状态的变量释放出来，释放后的变量才可以被其他线程锁定
  • read(读取)：作用于主内存变量，把一个变量值从主内存传输到线程的工作内存中，以便随后的load动作使用
  • load(载入)：作用于工作内存变量，它把read操作从主内存中得到的变量值放入工作内存的变量副本中
  • use(使用)：作用于工作内存变量，把工作内存中的一个变量值传递给执行引擎
  • assign(赋值)：作用于工作内存变量，它把一个从执行引擎接收到的值赋给工作内存的变量
  • store(存储)：作用于工作内存变量，把工作内存中的一个变量的值传送到主内存中，以便随后的write的操作
  • write(写入) ：作用于主内存变量，它把store操作从工作内存中的一个变量的值传送到主内存的变量中

• 八种操作满足已以下规则：

  • read和load、store和write 要一起出现；
  • 不允许线程丢弃它最近的assign操作；
  • 不允许线程没有发生过任何assign操作就把数据从线程的工作内存同步到主内存种；
  • 一个新的变量只能在主内存中诞生；
  • 一个变量在同一时刻只能被一个线程lock，lock可以被一个线程多次执行，多次lock后就要执行多少次unlock;
  • 如果对一个变量执行lock操作，将会清空工作内存中此变量的值，在执行引擎使用这个变量前，需要重新执行load或assign操作以初始化变量的值；
  • 如果一个变量没有被lock，那就不能被unlock，也不允许去unlock一个被其他线程锁定的变量；
  • 对一个变量执行unlock操作之前，必须先把此变量同步回主内存中（执行store、write操作）；

• 语言描述上简化成了read、write、lock、unlock四种；

对于volatile型变量的特殊规则

• 两项特性：
  • 保证此变量对所有的线程可见；当一个线程修改了这个变量的值，新值对于其他变量也是立即可知的；（但并不一定是并发安全）
  • 禁止指令重排序优化，从而保证代码的执行顺序与程序的顺序相同；

针对long和double型变量的特殊规则

• 允许虚拟机将没有被volatile修饰的64位数据的读写操作划分为两次32位的操作来进行，虚拟机自行选择是否需要保证64位数据类型的load、store、read、write这四个操作的原子性；这就是long和double的非原子性协定；

原子性、可见性、有序性

• 原子性：大致上可以认为基本数据类型的读写是具备原子性的（除了long和double）、提供了两个字节码（monitorenter、monitorexit）,反映到Java代码中就是synchronized
• 可见性：当一个变量修改了共享变量的值，其他线程能立即得知这个通知；主要由volatile、synchronized、final保证
• 有序性：如果在本线程内观察，所有的操作都是有序的（线程内似表现为串行的语义），如果从一个线程中观察另一个线程，所有操作都是无序的（指令重排序，工作内存与主内存同步延迟）；有序性可通过（volatile、synchronyzed）保证

先行发生原则

判断数据是否存在竞争，线程是否安全的非常有效的原则；

• 程序次序规则（Program Order Rule）：在一个线程内，按照控制流顺序，书写在签名的操作先行发生于书写在后面的操作。注意，这里说的是控制流顺序而不是程序代码顺序，因为要考虑分支、循环等结构。
• 管程锁定规则（Monitor Lock Rule）：在一个 unlock 操作先行发生于后面对同一个锁的 lock 操作。这里的 “ 后面 ” 是指时间上的先后。
• volatile 变量规则（Volatile Variable Rule）：对一个 volatile 变量的写操作先行发生于后面对这个变量的读操作，这里的 “ 后面 ” 同样是指时间上的先后。
• 线程启动规则（Thread Start Rule）：Thread 对象的 start() 方法先行发生于此线程的每个动作。
• 线程终止规则（Thread Termination Rule）：线程中的所有操作都先行发生于对此线程的终止检测，我们可以通过 Thread::join() 方法是否结束、Thread::isAlive() 的放回值等手段检测线程是否已经终止执行。
• 线程中断规则（Thread Interruption Rule）：对线程 interrupt() 方法的调用先行发生于被中断线程的代码检测到中断事件的发生，可以通过 Thread::interrupted() 方法检测到是否有中断发生。
• 对象终结规则（Finalizer Rule）：一个对象的初始化完成（构造函数执行结束）先行发生于它的 finalize() 方法的开始。
• 传递性（Transitivity）：如果操作 A 发行发生于操作 B，操作 B 先行发生于操作 C ，那就可以得出操作 A 先行发生于操作 C 的结论。

Java与线程

线程的实现

目前线程是Java里面进行处理器资源调度的最基本单位。(若Loom项目引入纤程（Fiber），就会改变这一点)
实现线程有三种实现:使用内核线程实现（1:1实现）、使用用户线程（1:N实现）、使用用户线程加轻量级进程混合实现（N:M实现）

内核线程实现

• KTL（内核线程）:由操作系统内核支持的线程，支持多线程的内核被称为多线程内核；
• LWP(轻量级进程):程序一般不会直接使用内核线程，而是使用内核线程的一种高级接口，轻量级进程就是我们通常说的线程，每个LWP都由一个内核线程支持；
• 优点：即时其中一个LWP在系统调用中被阻塞了，也不会影响整个进程继续工作；
• 缺点：
  • 因为基于内核线程实现，所以各种系统操作，都需要系统进行调用，系统调用代价相对较高，需要在用户态和内核态相互转换
  • 由于由内核线程支持，轻量级进程需要消耗一定的内核资源，因此一个系统支持的LWP的数量是有限的；

用户线程（UT）实现

• 广义上，一个线程只要不使用内核线程，都可以认为是用户线程(从这个角度看，轻量级进程也属于用户线程，但并不具备通常意义上的用户线程的优点)，狭义上来说，指的是完全建立在用户空间的的线程库上，系统内核不能感受到用户线程的存在；
• 优势：不需要系统内核的支持
• 缺点：所有操作都需要用户程序自己去处理（一般程序都不倾向使用用户线程）。

混合实现

Java线程的实现

HotSpot为例：每一个Java线程都是直接映射到一个操作系统原生线程来实现的，中间没有额外的间接结构；

Java线程调度

线程调度是指系统为线程分配处理器使用权的过程，主要分为：抢占式、协同式
Java线程调度式抢占式调度；
Java设施了10个线程优先级别，windows只有六种优先级，（1和2，3和4，6和7、8和9 效果相同）

状态转换

（转）状态转换关系

Java与协程

• 内核线程的调度成本主要来自于用户态与核心态之间状态转换，而这两种状态转换的开销主要来自于响应中断、保护和恢复现场的成本。
• 例如如Quasar协程库，不依赖Java虚拟机独立实现的协程库，Quauar的实现主要是字节码注入；

参考资料：《深入理解Java虚拟机》