7. 堆
7.1 堆的核心概述
概述:
· 一个JVM实例只存在一个堆内存,堆也是Java内存管理的核心区域
· Java堆区在JVM启动的时候即被创建,其空间大小也就确定了,是JVM管理的最大一块内存空间(堆的内存大小可调节)
· 《Java虚拟机规范》规定,堆可以处于物理上不连续的内存空间中,但是逻辑上应该视为连续的
· 所有线程共享Java堆,在这里还可以划分线程私有的缓冲区(Thread Local Allocation Buffer,TLAB)
· 《Java虚拟机规范》中对Java堆的描述是:所有的对象实例以及数组都应该在运行时分配在堆上,几乎所有对象实例
· 数组和对象永远不可能存储在栈上,因为栈帧中保存引用,这个引用指向对象或者数组在堆中的位置
· 在方法结束后,堆中的对象不会马上被移除,仅仅在垃圾收集的时候才会被移除
· 堆,是GC(Garbage Collection,垃圾收集器)执行垃圾回收的重点区域
图解:
堆的内存细分:
·Java7及之前堆内存逻辑上分为三部分:新生区+永久区+永久区
>Yong Generation Space 新生区 Yong/New
>>又被划分为Eden区和Survivor区
>Tenure Generation Space 养老区 Old/Tenure
>Permanent Space 永久区 Perm
·Java8及以后堆内存逻辑上分为三部分:新生区+养老区+元空间
>Yong Generation Space 新生区 Yong/New
>>又被划分为Eden区和Survivor区
>Tenure Generation Space 养老区 Old/Tenure
>Meta Space 元空间 Meta
(约定:新生区《》新生代《》年轻代,养老区《》老年区《》老年代,永久区《==》永久代)
堆空间内部结构图:
7.2 设置堆内存大小和OOM
堆空间大小设置:
· Java堆区用于存储Java对象实例,那么堆的大小在JVM启动的时候就已经设定好了,可以通过选项"-Xms"和"-Xmx"设置
>“-Xms"用于表示堆区的其实内存,等价于-XX :InitialHeapSize
>”-Xmx"用于表示堆区的最大内存,等价于-XX :MaxHeapSize
· 一旦堆区中的内存大小超过"-Xmx"所指定的最大内存时,将会抛出OutOfMemoryError异常
· 通常会将-Xms和-Xmx两个参数配置相同的值,其目的是为了能够在Java垃圾回收机制清理完堆区后不需要重新分隔计算堆区的大小,从而提高性能
· 默认情况下,初始内存大小:物理电脑内存大小/64,最大内存大小:物理电脑内存/4
OOM举例:
public class OOMTest{
public static void main(String[] args){
ArrayList<Picture> list = new ArrayList<>();
while(true){
//造成OutOfMemoryError(OOM)导致堆溢出
list.add(new Picture(new Random().nextInt(1024*1024)));
}
}
}
class Picture{
private byte[] pixels;
public Picture(int length){
this.pixels = new byte[length];
}
}
7.3 年亲代与老年代
概述:
· 存储在JVM的Java对象可以被划分为两类
>一类是生命周期较短的瞬时对象,这类对象的创建和消亡都非常迅速
>另一类对象生命周期却非常长,在某些极端的情况下还能够与JVM的生命周期保持一致
· Java堆区进一步细分的话,可以划分为年轻代和老年代
· 其中年轻代又可以分为Eden空间、Survivor0和Survivor1空间(有时也叫from区和to区)
图示:
配置新生代和老年代在堆结构的占比:
· 默认-XX :NewRatio = 2,表示新生代占1,老年代占2,新生代占整个堆的1/3
· 可以修改-XX : NewRatio = 4,表示新生代占1,老年代占4,新生代占整个堆的1/5
年轻代中各个区域的分配比例:
· 在HotSpot中,Eden空间和另外两个Survivor空间缺省所占比例是8 : 1 : 1
· 当然开发人员可以通过选项"-XX : SurvivorRatio"调整整个空间比例,例如-XX : SurvivorRatio=8
· 几乎所有的Java对象都是在Eden区被new出来的
· 绝大部分的Java对象的销毁都在新生代进行了
· 可以使用-Xmn设置新生代最大内存大小,这个参数一般默认值即可
图示:
(Eden区中的对象存活时间较长则存放在Survivor中,超过一定的存活时间就放在老年代中)
7.4 对象分配过程
概述:
为新对象分配内存空间是一件非常严谨和复杂的任务,JVM的设计者们不仅需要考虑内存如何分配,在哪儿分配等问题
并且由于内存分配算法与内存回收算法密切相关,所以还需要考虑GC执行完内存回收后是否会在内存空间中产生内存碎片
· 1. new的对象先放在伊甸区(Eden区),此区有大小限制
· 2. 当伊甸区的空间填满时,程序又需要创建对象,JVM的垃圾回收器将对伊甸区进行垃圾回收(Minor GC),将伊甸园区中
的不再被其他对象所引用的对象进行销毁,再加载新的对象放到伊甸园区
· 3. 然后将伊甸园区中的剩余对象移动到幸存者0区
· 4. 如果再次触发垃圾回收,此时上次幸存下来的放到幸存者0区的,如果没有回收,就会放到幸存者1区
· 5. 如果再次经历垃圾回收,此时会重新放回幸存者0区,接着再去幸存者1区
· 6. 什么时候去养老区呢,可以设置次数,默认是15次(可以设置参数: -XX : MaxTenuringThreshold = 进行设置)
· 7. 在养老区,相对悠闲,当养老区内存不足时,再次触发GC :Major GC,进行养老去的内存清理
· 8. 若养老区执行了Major GC之后发现依然无法进行对象的保存,就会产生OOM异常
总结:
· 针对幸存者s0,s1区的总结,复制之后有交换,谁空谁是to
· 关于垃圾回收:频繁在新生区收集,很少在养老区收集,几乎不在永久区/元空间收集
图解:
上述概述是一般情况,还存在特殊情况,解释如下所示:
· 新创建对象存放伊甸区(Eden),但是Minor GC后的伊甸区内存不够,则直接将新对象往老年代中存放
· 若老年代存放的下即可,若存放不下则进行Major GC垃圾回收,垃圾回收后存放得下即可,存放不下则抛OOM
· 在上述Minor GC的时候也会判断新创建的对象在Survivor是否放得下,若放不下则直接晋升为老年代,不用判断阈值
7.5 Minor GC、Major GC、Full GC
概述:
JVM在进行GC时,并非每次都对上面三个内存区域一起回收,大部分时候回收都是指新生代。针对HotSpot VM的实现
它里面的GC按照回收区域又分为两大种类型:一种是部分收集(Partial GC),一种是整堆收集(Full GC)
· 部分收集:不是完整收集整个Java堆的垃圾收集,其中又分为如下
>新生代收集(Minor GC/Young GC):只是新生代(Eden、S0、S1)的垃圾收集
>老年代收集(Major GC/Old GC):只是老年代的垃圾收集
>>目前,只有CMS GC会有单独收集老年代的行为
>>注意,很多时候Major GC会和Full GC混淆使用,需要具体辨别是老年代回收还是整堆回收
>混合收集(Mixed GC):收集整个新生代以及部分老年代的垃圾收集
>>目前,只有G1 GC会有这种行为
· 整堆收集(Full GC): 收集整个Java堆和方法区的垃圾收集
年轻代Minor GC触发机制:
· 当年轻代空间不足时,就会触发Minor GC,这里的年轻代满指的是伊甸区满,Survivor满不会触发GC(每次Minor GC触发 清理的是年轻代的内存)
· 因为Java对象大多都具备朝生夕灭的特性,所以Minor GC非常频繁,一般回收速度也比较块
· Minor GC会引发STW,暂停其它用户的线程,等垃圾回收结束,用户线程才恢复
老年代Major GC/Full GC触发机制:
· 指发生在老年代的GC,对象从老年代消失时,我们说"Major GC"或"Full GC"发生了
· 出现了Major GC,经常会伴随至少一次Minor GC(但非绝对的)
>也就是在老年代空间不足时,会先尝试触发Minor GC,如果之后空间还是不足则会触发Major GC
· Major GC的速度一般会比Minor GC 慢10倍以上,STW的时间更长
· 如果Major GC后内存还是不足,就报OOM了
· Major GC的速度一般会比Minor GC慢10倍以上
Full GC触发机制:
· 调用System.gc()时,系统建议执行Full GC,但是不必然执行
· 老年代空间不足
· 方法区空间不足
· 通过Minor GC后进入老年代的平均水平大小大于老年代的可用内存
· 由Eden区,survivor space0(From Space)区向survivor space1(To Space)可用内存,则把该对象转存到老年代,且老年代
的可用内存小于该对象大小
(说明:Full GC是开发或调优中要尽量避免的,这样暂时时间会短一些)
7.6 堆空间分代思想
为什么要把Java堆区进行分代:
· 经研究,不同对象的生命周期不同,70%-99%的对象是临时对象
>新生代:有Eden、两块大小相同的Survivor(又称为from/to,s0/s1)构成,to总为空
>老年代:存放新生代中经历多次GC任然存活的对象
·其实不分代也是可以的,分代的唯一理由就是优化GC性能,如果没有分代所有对象都在一起就会很冗余,其实
很多对象都是朝生夕死的,如果分代的话就会把对象进行分类,会腾出很大一部分空间
图片:
7.7 内存分配策略
策略:
针对不同年龄段的对象分配原则如下所示:
· 优先分配到Eden区中
· 大对象直接分配到老年代中(尽量避免程序中出现过多的大对象)
· 长期存活的对象存放在老年代中
· 动态对象年龄判断,如果Survivor区中对象的存活年龄大于MaxTenuringThreshold阈值则进入老年代
· 如果Survivor区中年龄相同的所有对象大小的总和大于Survivor空间的一半,则大于等于该年龄的对象全部进老年代中
· 空间分配担保:-XX : HandlePromotionFailure
7.8 为对象分配内存:TLAB
为什么要有TLAB(Thread Local Allocation Buffer):
· 堆区是线程共享区域,任何线程都可以访问到堆区中的共享数据
· 由于对象实例的创建在JVM中非常频繁,因此在并发环境下从堆区中划分内存空间是线程不安全的
· 为了避免多个线程操作同一地址,需要使用加锁机制,进而影响分配速度
什么是TLAB:
· 从内存模型而不是垃圾收集的角度,对Eden区域继续进行划分,JVM为每个线程分配了一个私有缓冲区,它包含在Eden
· 多线程同时分配内存时,使用TLAB可以避免一系列的非线程安全问题,同时还能够提升内存分配吞吐量,因此我们可以
将这种内存分配方式称之为快速分配策略
· 据所知,所有OpenJDK衍生出来的JVM都提供了TLAB设计
TLAB说明:
· 尽管不是所有的对象实例都能够在TLAB中成功分配到内存,但是JVM确实是将TLAB作为内存分配的首选
· 在程序中,开发人员可以通过设置 -XX : UserTLAB设置是否开启TLAB空间
· 默认情况下,TLAB空间的内存非常小,仅占有整个Eden空间的1%,当然我们可以通过-XX :TLABWasteTargetPercent
设置TLAB空间所占用Eden空间的百分比大小
· 一旦对象在TLAB空间分配内存失败,JVM就会尝试着通过使用加锁机制确保数据操作的原子性,从而直接在Eden空间中
分配内存
TLAB图示:
TLAB对象分配过程:
7.9 小结堆空间的参数设置
官网说明:[https://docs.oracle.com/javase/8/docs/technotes/tools/unix/java.html]
· -XX : + PrintFlagsInitial 查看所有参数的默认初始值
· -XX : + PrintFlagsFinal 查看所有参数的最终值(可能会存在修改,不再是初始值)
· -Xms :初始堆空间内存 (默认为物理内存的1/64)
· -Xmx: 最大堆空间内存(默认为物理内存的1/4)
· -Xmn: 设置新生代的大小(初始值及最大值)
· -XX: NewRatio 配置新生代和老年代在堆结构的占比
· -XX: SurvivorRatio 设置新生代中Eden和S0/S1空间占比
· -XX: MaxTenuringThreshold 设置新生代垃圾的最大年龄
· -XX: + PrintGCDetails 输出详细的GC处理日志
· -XX: + PrintGC 打印gc简要信息
· -XX: HandlePromotionFailure 是否设置空间分配担保
7.10 堆是分配对象的唯一选择吗?
堆是分配对象存储的唯一选择吗?
答案是:不是的 随着JIT编译器的发展与逃逸分析逐渐成熟,栈上分配 、标量替换优化技术将会导致一些微妙的变化,所以对象都分配到堆上也渐渐变得不是那么绝对了。在java虚拟机中,对象在堆分配内存已经成为了常识,但是有一种特殊情况,那就是通过逃逸分析后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配,这样就无需在堆上分配内存,也无需进行垃圾回收,这也是最常见的堆外存储技术
逃逸概述:
· 如何将堆上的对象分配到栈,需要使用逃逸分析手段。
· 这是一种可以有效减少Java程序中同步负载和内存堆分配压力的跨函数全局数据流分析算法。
· 通过逃逸分析,Java HotSpot编译器能够分析出一个新的对象的引用的使用范围从而决定是否要将这个对象分配到堆上。· 逃逸分析的基本行为就是分析对象动态作用域:(没有逃逸,可考虑栈上分配)
>当一个对象在方法中被定义后,对象只在方法内部使用,则认为没有发生逃逸
>当一个对象在方法中被定义后,它被外部方法所引用,则认为发生逃逸。例如作为调用参数传递到其他地方中
代码示例:
//示例一:没有发生逃逸的对象,则可以分配到栈上,随着方法的结束,栈空间就被移除
public void my_method(){
V v = new V();
v = null;
}
//示例二:发生逃逸
public static StringBuffer createStringBuffer(String s1,String s2){
StringBuffer sb = new StringBuffer()l
sb.append(s1);
sb.append(s2);
return sb;
}
//如果想要StringBuffer sb不发生逃逸可以这样写
public static String createStringBuffer(String s1,String s2){
StringBuffer sb = new StringBuffer()l
sb.append(s1);
sb.append(s2);
return sb.toString();
}
//示例三:如何快速判断是否发生了逃逸分析,看new的对象实体是否可能在方法外被调用
/**
* 逃逸分析
*
* 如何快速的判断是否发生了逃逸分析,大家就看new的对象实体是否有可能在方法外被调用。
*/
public class EscapeAnalysis {
public EscapeAnalysis obj;
/*
方法返回EscapeAnalysis对象,发生逃逸
*/
public EscapeAnalysis getInstance(){
return obj == null? new EscapeAnalysis() : obj;
}
/*
为成员属性赋值,发生逃逸
*/
public void setObj(){
this.obj = new EscapeAnalysis();
}
//思考:如果当前的obj引用声明为static的?仍然会发生逃逸。
/*
对象的作用域仅在当前方法中有效,没有发生逃逸
*/
public void useEscapeAnalysis(){
EscapeAnalysis e = new EscapeAnalysis();
}
/*
引用成员变量的值,发生逃逸
*/
public void useEscapeAnalysis1(){
EscapeAnalysis e = getInstance();
//getInstance().xxx()同样会发生逃逸
}
}
//结论:开发中能使用局部变量的,就不要使用在方法外定义
逃逸分析小结:逃逸分析并不成熟
· 关于逃逸分析的论文在1999年就已经发表了,但直到JDK1.6才有实现,而且这项技术到如今也并不是十分成熟。
· 其根本原因就是无法保证逃逸分析的性能消耗一定能高于他的消耗。虽然经过逃逸分析可以做标量替换、栈上分配、和 锁消除。但是逃逸分析自身也是需要进行一系列复杂的分析的,这其实也是一个相对耗时的过程。
· 一个极端的例子,就是经过逃逸分析之后,发现没有一个对象是不逃逸的。那这个逃逸分析的过程就白白浪费掉了。
· 虽然这项技术并不十分成熟,但是它也是即时编译器优化技术中一个十分重要的手段。
· 注意到有一些观点,认为通过逃逸分析,JVM会在栈上分配那些不会逃逸的对象,这在理论上是可行的,但是取决于JVM 设计者的选择。据我所知,Oracle HotSpot JVM中并未这么做,这一点在逃逸分析相关的文档里已经说明,所以可以明 确所有的对象实例都是创建在堆上。(并没有进行栈上分配,而是进行了标量替换)
然经过逃逸分析可以做标量替换、栈上分配、和 锁消除。但是逃逸分析自身也是需要进行一系列复杂的分析的,这其实也是一个相对耗时的过程。
· 一个极端的例子,就是经过逃逸分析之后,发现没有一个对象是不逃逸的。那这个逃逸分析的过程就白白浪费掉了。
· 虽然这项技术并不十分成熟,但是它也是即时编译器优化技术中一个十分重要的手段。
· 注意到有一些观点,认为通过逃逸分析,JVM会在栈上分配那些不会逃逸的对象,这在理论上是可行的,但是取决于JVM 设计者的选择。据我所知,Oracle HotSpot JVM中并未这么做,这一点在逃逸分析相关的文档里已经说明,所以可以明 确所有的对象实例都是创建在堆上。(并没有进行栈上分配,而是进行了标量替换)
· 目前很多书籍还是基于JDK7以前的版本,JDK已经发生了很大变化,intern字符串的缓存和静态变量曾经都被分配在永久 代上,而永久代已经被元数据区取代。但是,intern字符串缓存和静态变量并不是被转移到元数据区,而是直接在堆上 分配,所以这一点同样符合前面一点的结论:对象实例都是分配在堆上。