CPU性能优化手段
一、缓存
一级缓存可分为一级指令缓存和一级数据缓存。一级指令缓存用于暂时存储并向CPU递送各类运算指令；一级数据缓存用于暂时存储并向CPU递送运算所需数据，这就是一级缓存的作用。
二级缓存就是一级缓存的缓冲器：一级缓存制造成本很高因此它的容量有限，二级缓
存的作用就是存储那些CPU处理时需要用到、一级缓存又无法存储的数据。
三级缓存和内存可以看作是二级缓存的缓冲器，它们的容量递增，但单位制造成本却
递减。
二、运行时的指令重排
指令重排的场景：当CPU写缓存时发现缓存区正被其他CPU占用（例如：三级缓存），为了提高CPU处理性能，可能将后面的读缓存命令优先执行。
并非随便重排，需要遵守as-if-serial语义
as-if-serial语义的意思是指：不管怎么重排序（编译器和处理器为了提高并行度），（单线程）程序的执行结果不能被改变。编译器，runtime和处理器都必须遵守as-if-serial语义。
也就是说：编译器和处理器不会对存在数据依赖关系的操作做重排序。
三、产生的问题
1、CPU高速缓存下有一个问题：
缓存中的数据与主内存的数据并不是实时同步的，各CPU（或CPU核心）间缓存的数据也不是实时同步。在同一个时间点，各CPU所看到同一内存地址的数据的值可能是不一致的。
2、CPU执行指令重排序优化下有一个问题：
虽然遵守了as-if-serial语义，单仅在单CPU自己执行的情况下能保证结果正确。
多核多线程中，指令逻辑无法分辨因果关联，可能出现乱序执行，导致程序运行结果错误。
四、CPU缓存一致性问题
解决缓存不一致的问题，通常主流的解决方法有如下两种
- 通过总线加锁的方法
- 通过缓存一致性协议
第一种方式常见于早期的CPU当中，而且是一种悲观的实现方式，CPU和其他组件的通信都是通过总线（数据总线，控制总线，地址总线）来进行的，如果采用加锁的方式，则会阻塞其他CPU对其他组件的访问，从而使得只有一个CPU（抢到总线锁）能够访问这个变量的内存。这种方式效率低下，所有有了第二种方案解决不一致的问题
五、内存屏障
cpu缓存一致性无法保证内存可见性（当然如果可见性指的是“当主存值发生变化的时候，Cache可以看到”，那确实是实现了。问题是可见性不是这么定义的，它说的是“当一个线程对一个变量进行修改时，其他线程都能够看到”），而内存屏障就是用来解决这个问题的。大部分处理器都会提供以下3种内存屏障：
load barrier：用于保证读到最新的数据，仅仅保存读操作
store barrier：用来保证写操作会被其他core看到，仅仅保证写操作
full barrier：保证指令之后的读写操作不会重排序到指令之前
Intel x86架构下的实现为：
lfence：读屏障指令，保证load load操作不会乱序
sfence：写屏障指令，保证store store操作不会乱序
mfence：读写屏障指令，防止读写操作之间重排序，性能相对lfence和sfence来说差很多
Intel x86是强内存模型（相对于大多数其他架构的cpu而言），在不需要内存屏障的情况下就保证了Load Load，Store Store，Load Store操作不会重排序，那么lfence指令和sfence指令到底有什么用呢？sfence的作用是：等待执行完store buffer中的store，保证其他cpu能看到当前cpu的写操作，假如cpu使用了Invalid queue（很多弱内存模型的cpu都使用了Invalid queue），那么lfence的作用很明显，用来刷新Invalid queue，读取最新数据。
内存屏障的作用
1.阻止屏障两侧指令重排序
2.强制把写缓冲区/高速缓存中的脏数据等写回主内存，让缓存中相应的数据失效。
总结：
cpu缓存一致性并不能保证内存可见性，需要使用内存屏障来防止指令的重排序。intel x86的cpu的lock指令有和完全屏障一样的效果。java的volatile在x86cpu的平台上就是用的lock指令。缓存一致性与可见性
Java内存模型
内存模型可以理解为在特定的操作协议下，对特定的内存或者高速缓存进行读写访问的过程抽象，不同架构下的物理机拥有不一样的内存模型，Java虚拟机也有自己的内存模型，即Java内存模型（Java Memory Model, JMM）。在C/C++语言中直接使用物理硬件和操作系统内存模型，导致不同平台下并发访问出错。而JMM的出现，能够屏蔽掉各种硬件和操作系统的内存访问差异，实现平台一致性，是的Java程序能够“一次编写，到处运行”。
Java内存模型是根据英文Java Memory Model（JMM）翻译过来的。其实JMM并不像JVM内存结构一样是真实存在的。他只是一个抽象的概念。JSR-133: Java Memory Model and Thread Specification中描述了，JMM是和多线程相关的，他描述了一组规则或规范，这个规范定义了一个线程对共享变量的写入时对另一个线程是可见的。
Java的多线程之间是通过共享内存进行通信的，而由于采用共享内存进行通信，在通信过程中会存在一系列如可见性、原子性、顺序性等问题，而JMM就是围绕着多线程通信以及与其相关的一系列特性而建立的模型。JMM定义了一些语法集，这些语法集映射到Java语言中就是volatile、synchronized等关键字。
图片:java内存模型 （JMM）
主内存和工作内存
Java内存模型的主要目标是定义程序中各个变量的访问规则，即在虚拟机中将变量存储到内存和从内存中取出变量这样底层细节。此处的变量与Java编程时所说的变量不一样，指包括了实例字段、静态字段和构成数组对象的元素，但是不包括局部变量与方法参数，后者是线程私有的，不会被共享。
Java内存模型中规定了所有的变量都存储在主内存中，每条线程还有自己的工作内存（可以与前面讲的处理器的高速缓存类比），线程的工作内存中保存了该线程使用到的变量到主内存副本拷贝，线程对变量的所有操作（读取、赋值）都必须在工作内存中进行，而不能直接读写主内存中的变量。不同线程之间无法直接访问对方工作内存中的变量，线程间变量值的传递均需要在主内存来完成，线程、主内存和工作内存的交互关系如下图所示，和上图很类似。
注意：这里的主内存、工作内存与Java内存区域的Java堆、栈、方法区不是同一层次内存划分，这两者基本上没有关系。
内存交互操作
由上面的交互关系可知，关于主内存与工作内存之间的具体交互协议，即一个变量如何从主内存拷贝到工作内存、如何从工作内存同步到主内存之间的实现细节，Java内存模型定义了以下八种操作来完成：
- lock（锁定）：作用于主内存的变量，把一个变量标识为一条线程独占状态。
- unlock（解锁）：作用于主内存变量，把一个处于锁定状态的变量释放出来，释放后的变量才可以被其他线程锁定。
- read（读取）：作用于主内存变量，把一个变量值从主内存传输到线程的工作内存中，以便随后的load动作使用
- load（载入）：作用于工作内存的变量，它把read操作从主内存中得到的变量值放入工作内存的变量副本中。
- use（使用）：作用于工作内存的变量，把工作内存中的一个变量值传递给执行引擎，每当虚拟机遇到一个需要使用变量的值的字节码指令时将会执行这个操作。
- assign（赋值）：作用于工作内存的变量，它把一个从执行引擎接收到的值赋值给工作内存的变量，每当虚拟机遇到一个给变量赋值的字节码指令时执行这个操作。
- store（存储）：作用于工作内存的变量，把工作内存中的一个变量的值传送到主内存中，以便随后的write的操作。
- write（写入）：作用于主内存的变量，它把store操作从工作内存中一个变量的值传送到主内存的变量中。
如果要把一个变量从主内存中复制到工作内存，就需要按顺寻地执行read和load操作，如果把变量从工作内存中同步回主内存中，就要按顺序地执行store和write操作。Java内存模型只要求上述两个操作必须按顺序执行，而没有保证必须是连续执行。也就是read和load之间，store和write之间是可以插入其他指令的，如对主内存中的变量a、b进行访问时，可能的顺序是read a，read b，load b， load a。Java内存模型还规定了在执行上述八种基本操作时，必须满足如下规则：
- 不允许read和load、store和write操作之一单独出现
- 不允许一个线程丢弃它的最近assign的操作，即变量在工作内存中改变了之后必须同步到主内存中。
- 不允许一个线程无原因地（没有发生过任何assign操作）把数据从工作内存同步回主内存中。
- 一个新的变量只能在主内存中诞生，不允许在工作内存中直接使用一个未被初始化（load或assign）的变量。即就是对一个变量实施use和store操作之前，必须先执行过了assign和load操作。
- 一个变量在同一时刻只允许一条线程对其进行lock操作，lock和unlock必须成对出现
- 如果对一个变量执行lock操作，将会清空工作内存中此变量的值，在执行引擎使用这个变量前需要重新执行load或assign操作初始化变量的值
- 如果一个变量事先没有被lock操作锁定，则不允许对它执行unlock操作；也不允许去unlock一个被其他线程锁定的变量。
- 对一个变量执行unlock操作之前，必须先把此变量同步到主内存中（执行store和write操作）。
推荐和参考：
《深入理解java虚拟机》
java高并发编程详解
扫一扫
1143
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
