Java内存模型与线程

并发处理的广泛应用是使得Amdahl定律代替摩尔定律成为计算机性能发展源动力的根本原因，也是人类“压榨”计算机运行能力的最有力武器。

多任务处理在现代计算机操作系统中几乎已经是一项必备的功能了。在许多情况下，让计算机同时做好几件事情，不仅是因为计算机的运算能力强大了，还有一个很张耀的原因是计算机的运算速度与它的存储和通信子系统速度的差距太大，大量的事件都花费在磁盘I/O，网络通信或者数据库访问上。如果不希望处理器在大部分时间里都处于等待其他资源的状态，就不许使用一些手段去把处理器的运算能力压榨出来，否则就会造成很大的浪费，而让计算机同时处理几项任务则最容易想到，也被证明非常有效。

处理充分利用计算机的处理器的能力外，一个服务端同时对多个客户端提供服务则是另一个具体的并发应用场景。行两一个服务性能的高低好还，每秒事务处理数（TPS）是最重要的指标之一，它代表着一秒内服务端能相应的请求总数，TPS值与程序的并发能力又有非常密切的关系。对于计算量相同的任务，程序线程并发协调越有条不紊，效率自然就会越高；反之，线程之间频繁阻塞甚至死锁，将会大大降低程序的并发能力。

硬件的效率与一致性

“让计算机并发执行若干个运算任务”与“更充分的利用计算机处理器的效能”之间的因果关系，看起来顺理成章，实际上他们之间的关系没有想象中的那么简单，其中一个重要的复杂性来源是绝大多数的原酸任务都不可能只靠处理器“计算”就能完成，处理器至少要与内存交互，如读取运算数据，存储运算结果等，这个I/O操作是很难消除的（无法仅靠寄存器来完成所有的运算任务）。由于计算机的存储设备与处理器的运算速度有几个数量级的差距，所以现代计算机系统都不得不加入一层读写速度尽可能接近处理器运算速度的高速缓存来作为内存预处理器之间的缓冲：将运算需要使用到的数据先复制到缓存中，让运算能快速进行，当运算结束后再冲缓存同步回内存中，这样处理器就无需等待缓慢的内存读写了。

基于高速缓存的存储交互很好的解决了处理器与内存的速度矛盾，但是也为计算机系统带来更高的复杂度，因为它引入了一个新的问题：缓存一致性。在多处理器系统中，每个处理器都有自己的高速缓存，而他们又共享同一主内存。当多个处理器的运算任务都涉及到同一块主内存区域时将可能导致各自的缓存数据不一致，如果真的发生了这种情况，那同步回到主内存时以谁的缓存为准呢？为了解决一致性的问题，需要各个处理器访问缓存时都遵循一些协议，在读写时需要根据协议来进行操作，这类协议有MSI，MESI，MOSI，synapse，Firefly及DragonProtocol等。

除了增加高速缓存外，为了使得处理器内部的运算单元能尽量被充分利用，处理器可能会对输入代码进行乱序执行优化，处理器会在计算之后将乱序执行的结果重组，保证该结果与顺序执行的结果是一致的，但并不保证程序中的各个语句计算的先后顺序与输入代码中的顺序一致，因此，如果存在一个计算任务依赖另一个计算任务中的中间结果，那么其顺序性并不能靠代码的先后顺序来保证。与处理器的乱序执行优化类似，Java虚拟机的即时编译器中也有类似的指令重排序优化。

Java内存模型

Java虚拟机规范中视图定义一种Java的内存模型来屏蔽掉各种硬件和操作系统的内存访问差异，以实现让Java程序在各种平台下都能达到一致的内存访问效果，定义Java内存模型并非一件容易的事情，这个模型必须定义的足够严谨，才能让Java的并发内存访问操作不会出现歧义；但是，也必须定义的足够宽松，使得虚拟机的实现有足够的自由空间去利用硬件的各种特性来获取更好的执行速度。经过长时间的验证和修补，在JDK1.5发布后，Java内存模型已经成熟和完善起来了。

主内存与工作内存

Java内存模型的主要目标是定义程序中各个变量的访问规则，即在虚拟机中将变量存储到内存和从内存中取出变量这样的底层细节。此处的变量（Variables）与Java编程中所说的变量有所去别，它包括了实例字段，静态字段和构成数组对象的元素，但不包括局部变量与方法参数，因为后者是线程私有的，不会被共享，自然就不会存在竞争问题。为了获得较好的执行效能，Java内存模型并没有限制执行引擎使用处理器的特定寄存器或或缓存来和主内存进行交互，也没有限制即时编译器进行调整代码执行顺序这类优化措施。

Java内存模型规定了所有的变量都存储在主内存中。每条线程都有自己的工作内存（可与前面讲的处理器高速缓存类比），线程的工作内存中保存了被该线程使用到的变量的主内存副本拷贝，线程对变量的所有操作（读取，赋值等）都必须在工作内存中进行，而不能直接读写主内存中的变量。不同的线程之间无法直接访问对方工作内存中的变量，线程间变量值的传递均需要通过主内存来完成。

主内存直接对应着物理硬件的内存，而为了获取更好的运行速度，虚拟机可能会让工作内存优先存储于寄存器和高速缓存中，因为程序运行时主要访问读写的是工作内存。

内存间交互操作

关于主内存与工作内存之间具体的交互协议，即一个变量如何从内存拷贝到工作内存，如何从工作内存同步回主内存之类的细节，Java内存模型中定义了8中操作来完成，虚拟机实现时必须保证下面提及的每一种操作都是原子的，不可再拆分的。

• lock（锁定）：作为主内存的变量，它把一个变量标识为一条线程独占的状态。
• unlock（解锁）：作用于主内存的变量，它把一个处于锁定状态的变量释放出来，释放后的变量才可以被其他线程锁定。
• read（读取）：作用于出内存的变量，他把一个变量的值从主内存传输到线程的工作内存中，以便随后的load动作作用。
• load（载入）：作用于工作内存的变量，它把read操作从主内存中得到的变量值放入工作内存的变量副本中。
• use（使用）：作用与工作内存的变量，他把工作内存中的一个变量的值传递给执行引擎，每当虚拟机遇到一个需要使用到变量的值的字节码指令时将会执行这个操作。
• assign（赋值）：作用于工作内存的变量，它把一个从执行引擎接收到的赋值给工作内存的变量，每当虚拟机遇到一个给变量赋值的字节码指令时执行这一操作。
• store（存储）：作用于工作内存的变量，它把工作内存中的一个变量的值传递到主内存中，以便随后的write操作使用。
• write（写入）：作用于主内存的变量，它把store操作从工作内存中得到的变量的值放入主内存的变量中。

如果把一个变量从主内存复制到工作内存，那就要顺序执行read和load操作，如果要把变量从工作内存中同步会主内存，就要顺序的执行store和write操作。Java内存模型只要求上述两个操作必须按照顺序执行，而没有保证是连续执行。也就是说，read与load可能出现顺序是：read a，read b，load b，load a。除此之外，Java内存模型还规定了在执行上述8中基本操作时必须满足如下规则：

• 不允许read和load，store和write操作之一单独出现，即不允许一个变量从主内存读取了但工作内存不接受，或者从工作内存发起回写了单主内存不接受的情况出现。
• 不允许一个线程丢弃它的最近的assign操作，即变量在工作内存中改变了之后必须把该变化同步回主内存。
• 不允许一个线程无原因的把数据从线程的工作内存同步回主内存中。
• 一个新的变量智能在主内存中诞生，不允许在工作内存中直接使用一个未被初始化（load或assign）的变量，换句话说，就是对一个变量实施use，store操作之前，必须先执行过了assign和load操作。
• 一个变量在同一时刻只允许一条线程对其进行lock操作，但lock错做可以被同一条线程重复执行多次，多次执行lock后，只有执行相同次数的unlock操作，变量才会被解锁。
• 如果对一个变量执行lock操作，那将会清空工作内存中此变量的值，在执行引擎使用这个变量前，需要重新执行load或assign操作初始化变量的值。
• 如果一个变量事先没有被lock操作锁定，那就不允许对它执行unlock操作，也不允许去unlock一个被其他线程锁定住的变量。
• 对一个变量执行unlock操作之前，必须先把此变量同步回主内存中（执行store，write操作）。

这8种内存访问操作以及上述规则限定，再加上稍后的对volatile的一些特殊规定，就已经完全确定了Java程序中哪些内存访问操作在并发下是安全的。

volatile变量的特殊规则

关键字volatitle可以说是Java虚拟机提供的最轻量级的同步机制，但是它并不容易完全被正确，完整的理解，以至于许多程序员都习惯上不去使用它，遇到需要处理多线程数据竞争问题的时候一律使用synchronized来进行同步。了解volatile变量的语义对后面了解多线程操作的其他特性很有意义。

当一个变量定义为volatile之后，他将具备两种特性，第一是保证此变量对所有线程的可见性，这里的“可见性”是指当一条县城修改了这个变量的值，新值对于其他线程来说是立即得知的。而普通变量不能做到这一点，普通变量的值在线程间传递均需要通过主内存来完成，例如，线程A修改了一个普通变量的值，然后向主内存进行回写，另外一条线程B在线程A回写完成了之后再从主内存中进行读取操作，新变量值才会对线程B可见。

一个误解：“volatile变量对所有线程立即可知，对volatile变量所有的写操作都能立即反映到其他线程之中，换句话说，volatile变量在各个线程中是一致的，所以基于volatile变量的运算在并发下是安全的”。这句话的论据部分并没有错，但是器论据并不能得出“基于volatile变量的运算在并发下是安全的”这个结论。因为Java里面的操作并非原子操作，导致volatile变量的运算在并发下一样是不安全的。

由于volatile变量只能保证可见性，在不符合以下两条规则的运算场景中，我们仍然要通过加锁（使用synchronized或java.util.concurrent中的原子类）来保证原子性。

• 运算结果并不依赖变量的当前值，后者能够确保只有单一的线程修改变量的值。
• 变量不需要与其他的状态变量共同参与不变约束。

使用volatile变量的第二个语义是禁止指令重排序优化，不同的变量仅仅会保证在该方法的执行过程中所有的依赖赋值结果的地方都能获取到正确的结果，而不能保证变量赋值操作的顺序与程序代码中的执行顺序一致。因为在一个线程的方法执行过程中无法感知到这点，这也就是Java内存模型中描述的所谓的“线程内表现为串行的语义”。

对于long和double型变量的特殊规则

Java内存模型要求lock，unlock，read，load，assign，use，store，write这8个操作都具备原子性，但是对于64位的数据类型（long和double），在模型中特别定义了一条相对宽松的规定：允许虚拟机将没有被volatile修饰的64位数据的读写操作划分为32位的操作来进行，即允许虚拟机实现选择可以不保证64位数据类型的load，store，read和write这4个操作的原子性，这点就是所谓的long和double的非原子性约定。

如果有多个线程共享一个并未申明为volatile的long或者double类型的变量，并且同时对他们进行读取和修改操作，那么某些县城可能会读到一个既非原值，也不是其他线程修改的代表了“半个变量”的数值。

不过这种读取到“半个变量”的情况非常罕见，因为Java内存模型虽然允许虚拟机不把long和double变量的读写是现成原子操作，但允许虚拟机选择把这些操作实现为具有原子性的操作，而且还“强烈建议”虚拟机这样实现。在实际开发中，目前各种平台下的上用虚拟机几乎都选择把64位数据的读写操作作为原子操作来对待，因此我们在编写代码时一般不需要把用到的long和double变量专门声明位volatile。

未完待续…