java内存模型的基础与综述

目录

java内存模型的基础

并发编程模型的两个关键问题

Java内存模型的抽象结构

从源代码到指令序列的重排序

并发编程模型的分类

happens-before简介

Java内存模型综述

处理器的内存模型

各种内存模型之间的关系

JMM的内存可见性保证

JSR-133对旧内存模型的修补


java内存模型的基础

并发编程模型的两个关键问题

在并发编程中,需要处理两个关键问题:线程之间如何通信及线程之间如何同步(这里的 线程是指并发执行的活动实体)。

通信是指线程之间以何种机制来交换信息。在命令式编程 中,线程之间的通信机制有两种:共享内存和消息传递

在共享内存的并发模型里,线程之间共享程序的公共状态,通过写-读内存中的公共状态 进行隐式通信。

在消息传递的并发模型里,线程之间没有公共状态,线程之间必须通过发送消 息来显式进行通信。

 

同步是指程序中用于控制不同线程间操作发生相对顺序的机制。

共享内存并发模型 里,同步是显式进行的。程序员必须显式指定某个方法或某段代码需要在线程之间互斥执行

消息传递的并发模型里,由于消息的发送必须在消息的接收之前,因此同步是隐式进行的

 

Java的并发采用的是共享内存模型,Java线程之间的通信总是隐式进行,整个通信过程对 程序员完全透明。如果编写多线程程序的Java程序员不理解隐式进行的线程之间通信的工作 机制,很可能会遇到各种奇怪的内存可见性问题。

Java内存模型的抽象结构

在Java中,所有实例域、静态域和数组元素都存储在堆内存中,堆内存在线程之间共享 (用“共享变量”这个术语代指实例域,静态域和数组元素)。

局部变量(Local Variables), 方法定义参数(Java语言规范称之为Formal Method Parameters)和异常处理器参数(Exception

Handler Parameters)不会在线程之间共享,它们不会有内存可见性问题,也不受内存模型的影 响。

Java线程之间的通信由Java内存模型(本文简称为JMM)控制,JMM决定一个线程对共享 变量的写入何时对另一个线程可见。

从抽象的角度来看,JMM定义了线程和主内存之间的抽 象关系线程之间的共享变量存储在主内存(Main Memory)中,每个线程都有一个私有的本地 内存(Local Memory), 本地内存中存储了该线程以读/写共享变量的副本。本地内存是JMM的 一个抽象概念,并不真实存在。它包括了缓存、写缓冲区、寄存器以及其他的硬件和编译器优 化。Java内存模型的抽象示意如图

如果线程A与线程B之间要通信的话,必须要经历下面2个步骤。

1)线程A把本地内存A中更新过的共享变量刷新到主内存中去。

2)线程B到主内存中去读取线程A之前已更新过的共享变量。

本地内存A和本地内存B由主内存中共享变量x的副本。假设初始时,这3个 内存中的x值都为0。线程A在执行时,把更新后的x值(假设值为1)临时存放在自己的本地内存 A中。当线程A和线程B需要通信时,线程A首先会把自己本地内存中修改后的x值刷新到主内 存中,此时主内存中的x值变为了1。随后,线程B到主内存中去读取线程A更新后的x值,此时 线程B的本地内存的x值也变为了1。

从整体来看,这两个步骤实质上是线程A在向线程B发送消息,而且这个通信过程必须要 经过主内存。JMM通过控制主内存与每个线程的本地内存之间的交互,来为Java程序员提供 内存可见性保证。

从源代码到指令序列的重排序

在执行程序时,为了提高性能,编译器和处理器常常会对指令做重排序。重排序分3种

1)编译器优化的重排序编译器在不改变单线程程序语义的前提下,可以重新安排语句 的执行顺序。

2)指令级并行的重排序。现代处理器采用了指令级并行技术(Instruction-Level Parallelism, ILP)来将多条指令重叠执行。如果不存在数据依赖性,处理器可以改变语句对应 机器指令的执行顺序。

3)内存系统的重排序。由于处理器使用缓存和读/写缓冲区,这使得加载和存储操作看上 去可能是在乱序执行。

从Jav幻原代码到最终实际执行的指令序列,会分别经历下面3种重排序

上述的1属于编译器重排序,2和3属于处理器重排序。这些重排序可能会导致多线程程序 出现内存可见性问题。

对于编译器,JMM的编译器重排序规则会禁止特定类型的编译器重排 序(不是所有的编译器重排序都要禁止)。

对于处理器重排序,JMM的处理器重排序规则会要 求Java编译器在生成指令序列时,插入特定类型的内存屏障(Memory Barriers, Intel称之为 Memory Fence)指令,通过内存屏障指令来禁止特定类型的处理器重排序。

JMM属于语言级的内存模型,它确保在不同的编译器和不同的处理器平台之上,通过禁止特定类型的编译器重排序和处理器重排序,为程序员提供一致的内存可见性保证。

并发编程模型的分类

现代的处理器使用写缓冲区临时保存向内存写入的数据。写缓冲区可以保证指令流水线 持续运行,它可以避免由于处理器停顿下来等待向内存写入数据而产生的延迟。同时,通过以 批处理的方式刷新写缓冲区,以及合并写缓冲区中对同一内存地址的多次写,减少对内存总 线的占用。虽然写缓冲区有这么多好处,但每个处理器上的写缓冲区,仅仅对它所在的处理器 可见。

这个特性会对内存操作的执行顺序产生重要的影响:处理器对内存的读/写操作的执行 顺序,不一定与内存实际发生的读/写操作顺序一致!

假设处理器A和处理器B按程序的顺序并行执行内存访问,最终可能得到x=y=0的结果。具 体的原因

这里处理器A和处理器B可以同时把共享变量写入自己的写缓冲区(A1,B1), 然后从内存 中读取另一个共享变量(A2, B2), 最后才把自己写缓存区中保存的脏数据刷新到内存中(A3, B3)。当以这种时序执行时,程序就可以得到x=y=0的结果。

从内存操作实际发生的顺序来看,直到处理器A执行A3来刷新自己的写缓存区,写操作 A1才算真正执行了。虽然处理器A执行内存橾作的顺序为: A1一A2, 但内存操作实际发生的顺 序却是A2一A1。此时,处理器A的内存操作顺序被重排序了(处理器B的情况和处理器A一样, 这里就不赘述了)。

这里的关键是,由于写缓冲区仅对自己的处理器可见,它会导致处理器执行内存操作的 顺序可能会与内存实际的操作执行顺序不一致。由于现代的处理器都会使用写缓冲区,因此现代的处理器都会允许对写-读橾作进行重排序。

单元格中的'N"表示处理器不允许两个操作重排序,"Y"表示允许重排序。

常见的处理器都允许Store-Load重排序;常见的处理器都不允许对 存在数据依赖的操作做重排序。spare-TSO和X86拥有相对较强的处理器内存模型,它们仅允 许对写-读操作做重排序(因为它们都使用了写缓冲区)。

为了保证内存可见性,Java编译器在生成指令序列的适当位置会插入内存屏障指令来禁 止特定类型的处理器重排序。JMM把内存屏障指令分为4类

StoreLoad Barriers是一个“全能型”的屏障,它同时具有其他3个屏障的效果。

现代的多处 理器大多支持该屏障(其他类型的屏障不一定被所有处理器支持)。执行该屏障开销会很昂 贵,因为当前处理器通常要把写缓冲区中的数据全部刷新到内存中(Buffer Fully Flush)。

happens-before简介

从JDK5开始,Java使用新的JSR-133内存模型(除非特别说明,本文针对的都是JSR-133内 存模型)。JSR-133使用happens-before的概念来阐述操作之间的内存可见性。在JMM中,如果一 个操作执行的结果需要对另一个操作可见,那么这两个操作之间必须要存在happens-before关 系。这里提到的两个操作既可以是在一个线程之内,也可以是在不同线程之间。

与程序员密切相关的happens-before规则如下。

程序顺序规则:一个线程中的每个橾作,happens-before于该线程中的任意后续操作。 监视器锁规则:对一个锁的解锁,happens-before于随后对这个锁的加锁。

volatile变量规则:对一个volatile域的写,happens-before干任意后续对这个volatile域的读。

传递性:如果A happens-before B, 且B happens-before C, 那么A happens-before C。

两个橾作之间具有happens-before关系,并不意味着前一个操作必须要在后一个 操作之前执行! happens-before仅仅要求前一个操作(执行的结果)对后一个操作可见,且前一 个操作按顺序排在第二个操作之前(the first is visible to and ordered before the second)。

happens-before的定义很微妙,后文会具体说明happens-before为什么要这么定义。

一个happens-before规则对应于一个或多个编译器和处理器重排序规则。对 于Java程序员来说,happens-before规则简单易懂,它避免Java程序员为了理解JMM提供的内存 可见性保证而去学习复杂的重排序规则以及这些规则的具体实现方法。

Java内存模型综述

处理器的内存模型

顺序一致性内存模型是一个理论参考模型,JMM和处理器内存模型在设计时通常会以顺 序一致性内存模型为参照。在设计时,JMM和处理器内存模型会对顺序一致性模型做一些放 松,因为如果完全按照顺序一致性模型来实现处理器和JMM, 那么很多的处理器和编译器优 化都要被禁止,这对执行性能将会有很大的影响。

根据对不同类型的读/写操作组合的执行顺序的放松,可以把常见处理器的内存模型划分 为如下几种类型。

放松程序中写-读操作的顺序,由此产生了Total Store Ordering内存模型(简称为TSO)。 在上面的基础上,继续放松程序中写-写操作的顺序,由此产生了Partial Store Order内存 模型(简称为PSO)。

在前面两条的基础上,继续放松程序中读-写和读-读操作的顺序,由此产生了Relaxed Memory Order内存模型(简称为RMO)和PowerPC内存模型。

注意,这里处理器对读/写操作的放松,是以两个操作之间不存在数据依赖性为前提的(因 为处理器要遵守as-if-serial语义处理器不会对存在数据依赖性的两个内存操作做重排序)。

表展示了常见处理器内存模型的细节特征如下。

从表中可以看到,所有处理器内存模型都允许写-读重排序,原因:它们都使用了写缓存区。写缓存区可能导致写-读橾作重排序。同时,我们可以看到这些处 理器内存模型都允许更早读到当前处理器的写,原因同样是因为写缓存区。由于写缓存区仅 对当前处理器可见,这个特性导致当前处理器可以比其他处理器先看到临时保存在自己写缓 存区中的写。

表中的各种处理器内存模型,从上到下,模型由强变弱。越是追求性能的处理器,内 存模型设计得会越弱。因为这些处理器希望内存模型对它们的束缚越少越好,这样它们就可 以做尽可能多的优化来提高性能。

由于常见的处理器内存模型比JMM要弱,Java编译器在生成字节码时,会在执行指令序 列的适当位置插入内存屏障来限制处理器的重排序。同时,由于各种处理器内存模型的强弱 不同,为了在不同的处理器平台向程序员展示一个一致的内存模型,JMM在不同的处理器中 需要插入的内存屏障的数量和种类也不相同。图3-48展示了JMM在不同处理器内存模型中需 要插入的内存屏障的示意图。

JMM屏蔽了不同处理器内存模型的差异,它在不同的处理器平台之上为Java程序员呈现 了一个一致的内存模型。

各种内存模型之间的关系

JMM是一个语言级的内存模型,处理器内存模型是硬件级的内存模型,顺序一致性内存 模型是一个理论参考模型。下面是语言内存模型、处理器内存模型和顺序一致性内存模型的 强弱对比示意图如图所示。

从图中可以看出:常见的4种处理器内存模型比常用的3中语言内存模型要弱,处理器内存 模型和语言内存模型都比顺序一致性内存模型要弱。同处理器内存模型一样,越是追求执行 性能的语言,内存模型设计得会越弱。

JMM的内存可见性保证

按程序类型,Java程序的内存可见性保证可以分为下列3类。

·单线程程序。单线程程序不会出现内存可见性问题。编译器、runtime和处理器会共同确 保单线程程序的执行结果与该程序在顺序一致性模型中的执行结果相同。

正确同步的多线程程序。正确同步的多线程程序的执行将具有顺序一致性(程序的执行 结果与该程序在顺序一致性内存模型中的执行结果相同)。这是JMM关注的重点,JMM通过限 制编译器和处理器的重排序来为程序员提供内存可见性保证。

未同步/未正确同步的多线程程序。JMM为它们提供了最小安全性保障:线程执行时读取 到的值,要么是之前某个线程写入的值,要么是默认值(0、null、false)。

注意,最小安全性保障与64位数据的非原子性写并不矛盾。它们是两个不同的概念,它 们“发生”的时间点也不同。最小安全性保证对象默认初始化之后(设置成员域为0、null或

false), 才会被任意线程使用。最小安全性”发生“在对象被任意线程使用之前。64位数据的非 原子性写“发生“在对象被多个线程使用的过程中(写共享变量)。当发生问题时(处理器B看到 仅仅被处理器A"写了一半"的无效值),这里虽然处理器B读取到一个被写了一半的无效值,但 这个值仍然是处理器A写入的,只不过是处理器A还没有写完而已。最小安全性保证线程读取 到的值,要么是之前某个线程写入的值,要么是默认值(0、null、false)但最小安全性并不保证 线程读取到的值,一定是某个线程写完后的值。最小安全性保证线程读取到的值不会无中生有的冒出来,但并不保证线程读取到的值一定是正确的。

图展示了这3类程序在JMM中与在顺序一致性内存模型中的执行结果的异同。

只要多线程程序是正确同步的,JMM保证该程序在任意的处理器平台上的执行结果,与 该程序在顺序一致性内存模型中的执行结果一致。

JSR-133对旧内存模型的修补

JSR-133对JDK5之前的旧内存模型的修补主要有两个。

增强volatile的内存语义。旧内存模型允许volatile变量与普通变量重排序。JSR-133严格 限制volatile变量与普通变量的重排序,使volatile的写-读和锁的释放-获取具有相同的内存语 义。

增强final的内存语义。在旧内存模型中,多次读取同一个final变量的值可能会不相同。为 此,JSR-133为final增加了两个重排序规则。在保证final引用不会从构造函数内逸出的情况下, final具有了初始化安全性。

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值