文章目录
堆的概述
堆针对一个JVM进程来说是唯一的,也就是一个进程就对应着一个JVM实例,一个JVM实例当中就有一个运行时数据区(对应着java类中的Runtime),另外,一个进程包含多个线程,他们共享同一堆空间和方法区,每个线程又有一套自己的程序计数器、本地方法栈、虚拟机栈(独享)。
- 共享也就意味着要考虑线程安全问题
一个JVM实例只存在一个堆内存,堆也是Java内存管理的核心区域。
Java堆区在JVM启动的时候即被创建,其空间大小也就确定了,是JVM管理的最大一块内存空间。
- 注意:堆内存的大小是可以调节的。
《Java虚拟机规范》规定,堆可以处于物理上不连续的内存空间中,但在逻辑上它应该被视为连续的。
所有的线程共享Java堆,在这里还可以划分线程私有的缓冲区(Thread Local Allocation Buffer,TLAB
)。
- 也就是说:Java堆不是全部空间都是共享的,在其中也有线程私有不共享的空间,即
TLAB
《Java虚拟机规范》中对Java堆的描述是:所有的对象实例以及数组都应当在运行时分配在堆上。(The heap is the run-time data area from which memory for all class instances and arrays is allocated
)
- 从实际使用的角度看,是“几乎”所有的对象实例都在这里分配内存
- 因为还有一些对象是在栈上分配的
- 数组和对象可能永远不会存储在栈上,因为栈帧中保存引用,这个引用指向对象或者数组在堆中的位置。
堆,是GC(Garbage Collection,垃圾收集器)执行垃圾回收的重点区域。
在方法结束后,堆中的对象不会马上被移除,仅仅在垃圾收集的时候才会被移除。
- 也就是触发了GC的时候,才会进行回收
- 如果堆中对象马上被回收,那么用户线程就会收到影响,因为有
stop the word
堆内存细分
Java 7及之前堆内存逻辑上分为三部分:新生区 + 养老区 + 永久区
Young Generation Space
新生区 Young/New 【又被划分为Eden
区和Survivor
区】Tenure generation space
养老区 Old/Tenure- Permanent Space永久区 Perm
Java 8及之后堆内存逻辑上分为三部分:新生区 + 养老区 + 元空间
Young Generation Space
新生区 Young/New 又被划分为Eden区和Survivor区Tenure Generation Space
养老区 Old/TenureMeta Space
元空间 Meta
约定:新生区 -> 新生代 -> 年轻代 、 养老区 -> 老年区 -> 老年代、 永久区 -> 永久代
但是从实际物理实现上看,堆空间就不包括永久区,永久区(元空间)是在方法区上具体实现的。
堆空间内部结构,JDK1.8 之前从 永久代 替换成 元空间
设置堆内存大小与OOM
Java堆区用于存储Java对象实例,那么堆的大小在JVM启动时就已经设定好了,大家可以通过选项"-Xmx
“和”-Xms
"来进行设置。
- “
-Xms
"用于表示堆区的起始内存,等价于-XX:InitialHeapSize
- “
-Xmx
"则用于表示堆区的最大内存,等价于-XX:MaxHeapSize
- 这里设置的是年轻代和永久代的内存大小,不包括永久代(元数据)
一旦堆区中的内存大小超过“-Xmx
"所指定的最大内存时,将会抛出OutOfMemoryError
异常。
通常会将-Xms
和-Xmx
两个参数配置相同的值,其目的是为了能够在Java垃圾回收机制清理完堆区后不需要重新分隔计算堆区的大小,从而提高性能。
默认情况下(这里的物理内存指的是可用内存空间)
-
初始内存大小:物理电脑内存大小 / 64
-
最大内存大小:物理电脑内存大小 / 4
可以在代码中通过Runtime类
来查看
/**
* -Xms 用来设置堆空间(年轻代+老年代)的初始内存大小
* -X:是jvm运行参数
* ms:memory start
* -Xmx:用来设置堆空间(年轻代+老年代)的最大内存大小
* 这里运行时 加上 VM Options 参数 -Xms600m -Xmx600m
*/
public class HeapSpaceInitial {
public static void main(String[] args) {
// 返回Java虚拟机中的堆内存总量
long initialMemory = Runtime.getRuntime().totalMemory() / 1024 / 1024;
// 返回Java虚拟机试图使用的最大堆内存
long maxMemory = Runtime.getRuntime().maxMemory() / 1024 / 1024;
System.out.println("-Xms:" + initialMemory + "M");
System.out.println("-Xmx:" + maxMemory + "M");
}
}
// 输出
-Xms:575M
-Xmx:575M
如何查看堆内存的内存分配情况
jps / jstat -gc 进程id
前六项是新生区;OC和OU是老年区;将前八项全部加起来,除以 1024,就可以得到之前-Xmx / -Xms
设置的大小
- 这里要注意:S0区和S1区由于涉及到GC垃圾回收的复制算法,实际上真正存对象只能在 S0 和 S1 之间选一个,另一个为空,即S0 和 S1 始终有一个为空,但是空间是开辟了的,会认为新生区中可用的空间就是伊甸园区加上 S0 或 S1区中的一个,这也就是通过 Runtime类 获得到的最大空间和我们自己加的空间不一致的原因。
另一种方式是运行时加上一个参数,打印 GC 信息
-XX:+PrintGCDetails
OOM(OutOfMemoryError)举例
通过代码来测试一下
public class OOMTest {
public static void main(String[] args) {
List<Integer> list = new ArrayList<>();
while(true) {
list.add(999999999);
}
}
}
设置启动参数 : -Xms10m -Xmx:10m
运行后,就出现OOM
了,那么我们可以通过 jvisualvm / VisualVM
工具查看具体是什么参数造成的OOM
年轻代和老年代
存储在JVM中的Java对象可以被划分为两类:
- 一类是生命周期较短的瞬时对象,这类对象的创建和消亡都非常迅速
【生命周期短的,及时回收即可】 - 另外一类对象的生命周期却非常长,在某些极端的情况下还能够与JVM的生命周期保持一致
Java堆区进一步细分的话,可以划分为年轻代(YoungGen)和老年代(oldGen)
- 其中年轻代又可以划分为
Eden
空间(伊甸园区)、Survivor0
空间和Survivor1
空间(有时也叫做from
区、to
区)
一般来说,新生代与老年代的内存结构比例为:
- Eden:From:To ==> 8:1:1
- 新生代:老年代 ==> 1 : 2
当然也可以手动设置新生代和老年代的比例
-
默认
-XX:NewRatio
=2,表示新生代占1,老年代占2,新生代占整个堆的1/3 -
可以修改
-XX:NewRatio
=4,表示新生代占1,老年代占4,新生代占整个堆的1/5 -
当发现在整个项目中,生命周期长的对象偏多,那么就可以通过调整 老年代的大小,来进行调优
在 HotSpot 中,Eden
空间和另外两个Survivor
空间缺省所占的比例是 8:1:1
- 当然开发人员可以通过选项“
-XX:SurvivorRatio
”调整新生代中 Eden区 和 Survivor区 的空间比例。比如-XX:SurvivorRatio=8
- 注意:这个比例也不是固定的,因为存在自适应机制,默认情况下是有一个自适应比例的
- 可以通过
-XX:-UseAdaptiveSizePolicy
来开启(+
)或关闭(-
)自适应内存分配策略 - 但是更推荐直接使用
-XX:SurvivorRatio
来设置比例
几乎(对象可能会大到Eden区一下子放不下)所有的Java对象都是在Eden区
被new
出来的。
绝大部分的Java对象的销毁都在新生代进行了。
- IBM公司的专门研究表明,新生代中80%的对象都是“朝生夕死”的。(生命周期短)
可以使用选项"-Xmn
"设置新生代最大内存大小
- 这个参数一般使用默认值就可以了,一般也不会通过这个设置,而是直接使用比例的方式
- 如果与
-XX:NewRatio
设置的比例冲突,会以这个为准
指令总结
-XX:NewRatio : 设置新生代与老年代的比例,默认值为 2
-XX:SurvivorRatio : 设置新生代 Eden区 与 Survivor区 的比例
-XX:UseAdaptiveSizePolicy : 关闭自适应的内存分配策略
-Xmn : 设置新生代的空间大小
对象分配过程(图解)
概念介绍
为新对象分配内存是一件非常严谨和复杂的任务,JM的设计者们不仅需要考虑内存如何分配、在哪里分配等问题,并且由于内存分配算法与内存回收算法密切相关,所以还需要考虑GC执行完内存回收后是否会在内存空间中产生内存碎片。
- new 的对象先放 Eden区。此区有大小限制。
- 当 Eden区 的空间填满时,程序又需要创建对象,JVM的垃圾回收器将对 Eden区 进行垃圾回收(
MinorGC
),将 Eden区 中的不再被其他对象所引用的对象进行销毁。再加载新的对象放到 Eden区 - 然后将 Eden区 中的剩余对象移动到幸存者0区。
- 如果再次触发垃圾回收,此时上次幸存下来的、放到幸存者0区中的,如果没有被回收,就会放到幸存者1区。
- 如果再次经历垃圾回收,就会放到幸存者0区,接着下次GC就会去到幸存者1区。
- 啥时候能去养老区(老年区)呢?可以设置次数(阈值)。默认是15次。
【可以通过参数:-XX:MaxTenuringThreshold=<N>
进行设置】 - 在养老区,相对悠闲。当养老区内存不足时,会触发GC:
Major GC
,进行养老区的内存清理 - 若养老区执行了
Major GC
之后,发现依然无法进行对象的保存,就会产生OOM异常。
图解
我们创建的对象,一般都是存放在Eden区
的,当我们Eden区满了后,就会触发GC操作,一般被称为 YGC / Minor GC
操作
触发GC的时候,GC会判断谁是垃圾,谁不是垃圾;
当我们进行一次垃圾收集后,红色的将会被回收,而绿色的还会被占用着,存放在S0(Survivor From)区
。同时我们给每个对象设置了一个年龄计数器,一次回收后就是1。
同时Eden区继续存放对象,当Eden区再次存满的时候,又会触发一个MinorGC
操作,此时GC将会把 Eden 和 Survivor From
中的对象 进行一次收集,把存活的对象放到 Survivor To区,同时让年龄 + 1
【Survivor From 和 To 区不是固定的指向,From可能是 S0,也可能是 S1】
当进入下一次发生GC的时候,就会判断 S1 和 Eden区 的对象,然后进行一次收集,幸存者再放入 S0 中,一次类推,S0=>S1、S1=>S0...
,这也是称为 From 和 To 的原因
我们继续不断的进行对象生成 和 垃圾回收,当 Survivor 中的对象的年龄达到15的时候,将会触发一次 Promotion晋升的操作,也就是将年轻代中的对象 晋升到 老年代
中
思考:幸存区满了后?
特别注意,在Eden区满了的时候,才会触发MinorGC,而幸存者区满了后,不会触发MinorGC操作
- 这里是不触发,而不是没有,YGC触发是因为 Eden区满了,如果Eden区没满而幸存者区满了,这种情况是不触发YGC的
- 如果Survivor区满了后,将会触发一些特殊的规则,也就是可能直接晋升老年代
小结
- 复制之后有交换,谁空谁是 to
- 频繁在新生区收集,很少在养老区收集,几乎不在永久区(元空间)收集
对象分配的特殊情况
- 前面所讲的步骤是针对一般的过程,还会存在一些特殊情况
主要包括两种情况
- 在 YGC 后 Survivor区 放不下了,就会晋升老年代
- 当需要 Eden区 存入超大对象,且在 YGC 后仍然放不下,就会判断老年区放不放的下,如果放不下就会进行 FGC,FGC后仍放不下就会报 OOM 异常
代码演示分配过程
public class HeapInstanceTest {
byte [] buffer = new byte[new Random().nextInt(1024 * 200)];
public static void main(String[] args) throws InterruptedException {
ArrayList<HeapInstanceTest> list = new ArrayList<>();
while (true) {
list.add(new HeapInstanceTest());
Thread.sleep(10);
}
}
}
然后设置JVM参数 : -Xms600m -Xmx600m
通过可视化工具jvisualvm
查看
最终,在老年代和新生代都满了,就出现OOM
Minor GC、MajorGC、Full GC
- Minor GC:新生代的GC,等价于 YGC
- Major GC:老年代的GC
- Full GC:整堆收集,收集整个Java堆和方法区的垃圾收集
我们都知道,JVM 的调优的一个环节,也就是垃圾收集,我们需要尽量的避免垃圾回收,因为在垃圾回收的过程中,容易出现STW
Stop The World
的问题
而 Major GC 和 Full GC 出现 STW 的时间,是Minor GC的10倍以上
JVM在进行GC时,并非每次都对上面三个内存区域一起回收的,大部分时候回收的都是指新生代。
针对Hotspot VM的实现,它里面的GC按照回收区域又分为两大种类型:一种是部分收集(Partial GC),一种是整堆收集(FullGC)
部分收集:不是完整收集整个Java堆的垃圾收集。其中又分为:
- 新生代收集(
MinorGC / YoungGC
):只是新生代(Eden / Survivor
)的垃圾收集 - 老年代收集(
MajorGC / OldGC
):只是老年代的圾收集。
【1】目前,只有CMS GC
会有单独收集老年代的行为。
【2】注意,很多时候 Major GC 会和 Full GC 混淆使用,需要具体分辨是老年代回收还是整堆回收。 - 混合收集(
MixedGC
):收集整个新生代以及部分老年代的垃圾收集。
【1】目前,只有 G1 GC 会有这种行为
整堆收集(FullGC):收集整个 Java堆 和 方法区 的垃圾收集。
Minor GC
当年轻代空间不足时,就会触发MinorGC
,这里的年轻代满指的是Eden区满,Survivor满不会引发GC。(每次Minor GC会清理年轻代的内存。)
因为 Java对象 大多都具备 朝生夕灭 的特性,所以Minor GC非常频繁,一般回收速度也比较快。这一定义既清晰又易于理解。
Minor GC会引发STW(Stop The World
),暂停其它用户的线程,等垃圾回收结束,用户线程才恢复运行;尽管Minor GC 频率较高,但是因为执行速度快,所以对用户线程的影响并不大。
Major GC
指发生在老年代的GC,对象从老年代消失时,我们说 “Major GC” 或 “Full GC” 发生了
出现了MajorGC,经常会伴随至少一次的Minor GC(但非绝对的,在Parallel Scavenge
并行回收收集器的收集策略里就有直接进行MajorGC的策略选择过程)
- 也就是在老年代空间不足时,会先尝试触发MinorGc。如果之后空间还不足,则触发Major GC
Major GC 的速度一般会比 Minor GC 慢10倍以上,STW的时间更长
- 如果Major GC后,内存还不足,就报OOM了
Full GC
触发 Full GC 执行的情况有如下五种:
- 调用
System.gc()
时,系统建议执行 Full GC,但是不必然执行 - 老年代空间不足
- 方法区空间不足
- 通过 Minor GC 后进入老年代的平均大小 大于 老年代的可用内存,还是空间不足
- 由Eden区、Survivor Space0(From Space)区向 Survivor Space1(To Space)区复制时,对象大小大于 To Space 可用内存,则把该对象转存到老年代,且老年代的可用内存小于该对象大小,仍然是老年代空间不足
说明:Full GC 是开发或调优中尽量要避免的。这样暂停时间会短一些
GC 举例
public class GCTest {
public static void main(String[] args) {
int i = 0;
try {
List<String> list = new ArrayList<>();
String a = "abcdefghijklmnopqrstuvwxyz";
while(true) {
list.add(a);
a = a + a;
i++;
}
}catch (Exception e) {
e.getStackTrace();
}
}
}
设置JVM启动参数 : -Xms10m -Xmx10m -XX:+PrintGCDetails
查看打印出的日志
PSYoungGen 年轻代 GC前大小 -> GC 后大小 堆区GC前总大小 -> 堆区GC后总大小 GC执行时间
ParOldGen 老年代
[GC (Allocation Failure) [PSYoungGen: 2038K->500K(2560K)] 2038K->797K(9728K), 0.3532002 secs] [Times: user=0.01 sys=0.00, real=0.36 secs]
[GC (Allocation Failure) [PSYoungGen: 2108K->480K(2560K)] 2405K->1565K(9728K), 0.0014069 secs] [Times: user=0.00 sys=0.00, real=0.00 secs]
[Full GC (Ergonomics) [PSYoungGen: 2288K->0K(2560K)] [ParOldGen: 6845K->5281K(7168K)] 9133K->5281K(9728K), [Metaspace: 3482K->3482K(1056768K)], 0.0058675 secs] [Times: user=0.00 sys=0.00, real=0.01 secs]
[GC (Allocation Failure) [PSYoungGen: 0K->0K(2560K)] 5281K->5281K(9728K), 0.0002857 secs] [Times: user=0.00 sys=0.00, real=0.00 secs]
[Full GC (Allocation Failure) [PSYoungGen: 0K->0K(2560K)] [ParOldGen: 5281K->5263K(7168K)] 5281K->5263K(9728K), [Metaspace: 3482K->3482K(1056768K)], 0.0058564 secs] [Times: user=0.00 sys=0.00, real=0.01 secs]
Heap
PSYoungGen total 2560K, used 60K [0x00000000ffd00000, 0x0000000100000000, 0x0000000100000000)
eden space 2048K, 2% used [0x00000000ffd00000,0x00000000ffd0f138,0x00000000fff00000)
from space 512K, 0% used [0x00000000fff00000,0x00000000fff00000,0x00000000fff80000)
to space 512K, 0% used [0x00000000fff80000,0x00000000fff80000,0x0000000100000000)
ParOldGen total 7168K, used 5263K [0x00000000ff600000, 0x00000000ffd00000, 0x00000000ffd00000)
object space 7168K, 73% used [0x00000000ff600000,0x00000000ffb23cf0,0x00000000ffd00000)
Metaspace used 3514K, capacity 4498K, committed 4864K, reserved 1056768K
class space used 388K, capacity 390K, committed 512K, reserved 1048576K
Exception in thread "main" java.lang.OutOfMemoryError: Java heap space
at java.util.Arrays.copyOfRange(Arrays.java:3664)
at java.lang.String.<init>(String.java:207)
at java.lang.StringBuilder.toString(StringBuilder.java:407)
at com.atguigu.java.chapter08.GCTest.main(GCTest.java:20)
触发OOM的时候,一定是进行了一次Full GC,因为只有在老年代空间不足时候,才会爆出OOM异常
堆空间分代思想
【引入】为什么要把Java堆分代?不分代就不能正常工作了吗?
- 经研究,不同对象的生命周期不同。70%-99%的对象是临时对象。
- 新生代:有Eden、两块大小相同的 Survivor(又称为
from/to,s0/s1
)构成,to总为空。 - 老年代:存放新生代中经历多次GC仍然存活的对象。
【回答】其实不分代完全可以,分代的唯一理由就是优化GC性能。
- 如果没有分代,那所有的对象都在一块,就如同把一个学校的人都关在一个教室。GC的时候要找到哪些对象没用,这样就会对堆的所有区域进行扫描。
- 而很多对象都是朝生夕死的,如果分代的话,把新创建的对象放到某一地方,当GC的时候先把这块存储“朝生夕死”对象的区域进行回收,这样就会腾出很大的空间出来。
内存分配策略
- 内存分配策略,也称对象提升(Promotion)规则
如果对象在 Eden 出生并经过第一次 Minor GC 后仍然存活,并且能被 Survivor 容纳的话,将被移动到 Survivor 空间中,并将对象年龄设为1
。对象在 Survivor 区中每熬过一次 MinorGC,年龄就增加1
岁,当它的年龄增加到一定程度(默认为15岁,其实每个JVM、每个GC都有所不同
)时,就会被晋升到老年代
- 对象晋升老年代的年龄阀值,可以通过选项
-XX:MaxTenuringThreshold
来设置
针对不同年龄段的对象分配原则如下所示:
- 优先分配到Eden
- 大对象直接分配到老年代【在开发中尽量避免程序中出现过多的大对象】
- 开发中比较长的字符串或者数组,会直接存在老年代,但是因为新创建的对象 都是 朝生夕死 的,所以这个大对象可能也很快被回收,但是因为老年代触发 Major GC 的次数比 Minor GC 要更少,因此可能回收起来就会比较慢
- 长期存活的对象分配到老年代
- 动态对象年龄判断
- 如果 Survivor 区中相同年龄的所有对象大小的总和大于 Survivor 空间的一半,年龄大于或等于该年龄的对象可以直接进入老年代,无须等到 MaxTenuringThreshold 中要求的年龄。
- 空间分配担保:
-XX:HandlePromotionFailure
- 也就是经过 Minor GC 后,所有的对象都存活,因为 Survivor 比较小,所以就需要将 Survivor 无法容纳的对象,存放到老年代中。
为对象分配内存:TLAB
TLAB:Thread Local Allocation Buffer,也就是为每个线程单独分配了一个缓冲区
为什么有 TLAB Thread Local Allocation Buffer
-
堆区是线程共享区域,任何线程都可以访问到堆区中的共享数据
-
由于对象实例的创建在 JVM 中非常频繁,因此在并发环境下从堆区中划分内存空间是线程不安全的
-
为避免多个线程操作同一地址,需要使用加锁等机制,进而影响分配速度。
什么是TLAB
-
从内存模型而不是垃圾收集的角度,对 Eden区域 继续进行划分,JVM 为每个线程分配了一个私有缓存区域,它包含在 Eden空间 内。
-
多线程同时分配内存时,使用 TLAB 可以避免一系列的非线程安全问题,同时还能够提升内存分配的吞吐量,因此我们可以将这种内存分配方式称之为快速分配策略。
-
目前所有OpenJDK衍生出来的JVM都提供了TLAB的设计。
-
尽管不是所有的对象实例都能够在TLAB中成功分配内存,但 JVM 确实是将TLAB作为内存分配的首选。
-
在程序中,开发人员可以通过选项“
-XX:[+/-]UseTLAB
”设置是否开启TLAB空间。 -
默认情况下,TLAB空间的内存非常小,仅占有整个Eden空间的1%
【当然我们可以通过选项 “-XX:TLABWasteTargetPercent
” 设置TLAB空间所占用Eden空间的百分比大小】 -
一旦对象在TLAB空间分配内存失败时,JVM就会尝试着通过使用加锁机制确保数据操作的原子性,从而直接在Eden空间中分配内存。
TLAB 分配过程
对象首先是通过TLAB开辟空间,如果不能放入(例如对象太大TLAB空间不足等),那么需要通过 Eden 来进行分配
面试提问:堆空间都是共享的么?
不一定,因为还有 TLAB 这个概念,在堆中划分出一块区域,为每个线程所独占
常见堆空间的参数设置
官方参数文档链接:https://docs.oracle.com/javase/8/docs/technotes/tools/unix/java.html
-
-XX:+PrintFlagsInitial:查看所有的参数的默认初始值
-
-XX:+PrintFlagsFinal:查看所有的参数的最终值(可能会存在修改,不再是初始值)
-
-Xms:初始堆空间内存(默认为物理内存的1/64)
-
-Xmx:最大堆空间内存(默认为物理内存的1/4)
-
-Xmn:设置新生代的大小。(初始值及最大值)
-
-XX:NewRatio:配置新生代与老年代在堆结构的占比
-
-XX:SurvivorRatio:设置新生代中Eden和S0/S1空间的比例
-
-XX:MaxTenuringThreshold:设置新生代垃圾的最大年龄
-
-XX:+PrintGCDetails:输出详细的GC处理日志
- 打印 GC 简要信息:① -XX:+PrintGC ② - verbose:gc
-
-XX:HandlePromotionFalilure:是否设置空间分配担保
在发生 Minor GC 之前,虚拟机会检查老年代最大可用的连续空间是否大于新生代所有对象的总空间。
- 如果大于,则此次 Minor GC 是安全的
- 如果小于,则虚拟机会查看
-XX:HandlePromotionFailure
设置值是否允担保失败。- 如果
HandlePromotionFailure=true
,那么会继续检查老年代最大可用连续空间是否大于历次晋升到老年代的对象的平均大小。- 如果大于,则尝试进行一次 Minor GC ,但这次 Minor GC 依然是有风险的;
- 如果小于,则改为进行一次 FullGC。
- 如果
HandlePromotionFailure=false
,则改为进行一次 Full GC。
- 如果
在JDK6 Update24
(JDK7)之后,HandlePromotionFailure
参数不会再影响到虚拟机的空间分配担保策略。
观察 OpenJDK 中的源码变化,虽然源码中还定义了HandlePromotionFailure
参数,但是在代码中已经不会再使用它。
JDK6 Update 24之后的规则变为只要老年代的连续空间大于新生代对象总大小或者历次晋升的平均大小就会进行 Minor GC,否则将进行 Full GC。(即将两个条件合在一起观察)
堆是分配对象的唯一选择么?
答案肯定是不是的。堆是GC的重点对象,也是影响性能提升的重点区域,一说到性能瓶颈,就是堆空间, 提升性能就要尽量减少GC的次数,其中又以降低老年代的GC为主,以减少 STW 对用户线程的影响;另外堆空间也会出现 OOM 异常,也要经过调优避免出现。
另一方面,除了调节相应的内存大小之外,也会考虑,能不能把一些特殊的对象不放在堆中,从另外一个角度减少GC,提升性能。
在《深入理解Java虚拟机》中关于Java堆内存有这样一段描述:
- 随着
JIT编译期
的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化,所有的对象都分配到堆上也渐渐变得不那么绝对了。
- 在 Java 虚拟机中,对象是在 Java 堆中分配内存的,这是一个普遍的常识。
- 但是,有一种特殊情况,那就是如果经过逃逸分析(Escape Analysis)后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配。
- 这样就无需在堆上分配内存,也无须进行垃圾回收了。这也是最常见的堆外存储技术。
- 此外,前面提到的基于 OpenJDK 深度定制的 TaoBao VM,其中创新的
GCIH
(GC Invisible Heap
)技术实现off-heap
,将生命周期较长的Java对象从heap中移至heap外,并且GC不能管理GCIH内部的Java对象,以此达到 降低GC的回收频率 和 提升GC的回收效率 的目的。
逃逸分析
【简介】
-
如何将堆上的对象分配到栈,需要使用逃逸分析手段。
-
这是一种【可以有效减少Java程序中同步负载和内存堆分配压力】的【跨函数全局数据流分析算法】。
-
通过逃逸分析,Java Hotspot 编译器能够分析出【一个新的对象的引用的使用范围】从而【决定是否要将这个对象分配到堆上】。
逃逸分析的基本行为就是分析对象动态作用域:
- 当一个对象在方法中被定义后,对象只在方法内部使用,则认为没有发生逃逸。
- 当一个对象在方法中被定义后,它被外部方法所引用,则认为发生逃逸。例如作为调用参数传递到其他地方中。
没有发生逃逸的对象,则可以分配到栈上,随着方法执行的结束,栈空间就被移除,每个栈里面包含了很多栈帧,也就是发生逃逸分析。
分配到栈上带来的好处就是:当方法执行完之后,栈帧弹出,空间随之释放,就不会有GC,也就不会影响性能。
举例
public static StringBuffer createStringBuffer(String s1, String s2) {
StringBuffer sb = new StringBuffer();
sb.append(s1);
sb.append(s2);
return sb;
}
由于返回的是 StringBufffer 对象,加入在另外的方法中调用到了,接收了这个方法返回的值,就指向了方法中 new 的 StringBuffer,那这个实例就有可能在方法外部被调用,也就是发生了逃逸,就不能在栈上分配了,只能在堆中分配。
那我们应该怎么修改一下,防止逃逸发生呢?
可以实例一个 String 对象,生成了一个新的 String对象,就让 StringBuffer 只在方法内被调用,就可以在栈上分配了
public static String createStringBuffer(String s1, String s2) {
StringBuffer sb = new StringBuffer();
sb.append(s1);
sb.append(s2);
// 返回 String 对象
return sb.toString();
}
来个更详细的例子
/**
* 逃逸分析
* 如何快速的判断是否发生了逃逸分析,大家就看 new 的 对象实体 是否在方法外被调用。
*/
public class EscapeAnalysis {
public EscapeAnalysis obj;
/**
* 方法返回 EscapeAnalysis 对象,发生逃逸
* @return
*/
public EscapeAnalysis getInstance() {
return obj == null ? new EscapeAnalysis():obj;
}
/**
* 为成员属性赋值,发生逃逸
*/
public void setObj() {
this.obj = new EscapeAnalysis();
// 即使这个 obj 声明为 static,仍然发生逃逸
}
/**
* 对象的作用于仅在当前方法中有效,没有发生逃逸
*/
public void useEscapeAnalysis() {
EscapeAnalysis e = new EscapeAnalysis();
}
/**
* 引用成员变量的值,发生逃逸
*/
public void useEscapeAnalysis2() {
EscapeAnalysis e = getInstance();
// getInstance().XXX 发生逃逸
}
}
- 注意:这里关心的是实体,而不是变量
JVM 参数设置
在JDK 1.7 版本之后,HotSpot中默认就已经开启了逃逸分析
如果使用的是较早的版本,开发人员则可以通过:
- 选项“
-XX:+DoEscapeAnalysis
"显式开启逃逸分析 - 通过选项“
-XX:+PrintEscapeAnalysis
"查看逃逸分析的筛选结果 - 开启逃逸分析需要在Server模式下 ,可通过
-server
进入 Server 模式,不过一般默认就是这个模式
结论
开发中能使用局部变量的,就不要使用在方法外定义。
使用逃逸分析,编译器可以对代码做如下优化:
- 栈上分配:将堆分配转化为栈分配。如果一个对象在子程序中被分配,要使指向该对象的指针永远不会发生逃逸,对象可能是栈上分配的候选,而不是堆上分配
- 同步省略:如果一个对象被发现只有一个线程被访问到,那么对于这个对象的操作可以不考虑同步。
- 分离对象或标量替换:有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,那么对象的部分(或全部)可以不存储在内存,而是存储在CPU寄存器中。
栈上分配
JIT编译器在编译期间根据逃逸分析的结果,发现如果一个对象并没有逃逸出方法的话,就可能被优化成栈上分配。
分配完成后,继续在调用栈内执行,最后线程结束,栈空间被回收,局部变量对象也被回收。这样就无须进行垃圾回收了。
常见的栈上分配的场景
- 在逃逸分析中,已经说明了。分别是给成员变量赋值、方法返回值、实例引用传递。
举例:对比 开启逃逸分析 和 未开启逃逸分析 时候的情况
/**
* 栈上分配
*/
class User {
private String name;
private String age;
private String gender;
private String phone;
}
public class StackAllocation {
public static void main(String[] args) throws InterruptedException {
long start = System.currentTimeMillis();
for (int i = 0; i < 100000000; i++) {
alloc();
}
long end = System.currentTimeMillis();
System.out.println("花费的时间为:" + (end - start) + " ms");
// 为了方便查看堆内存中对象个数,线程sleep
Thread.sleep(10000000);
}
private static void alloc() {
User user = new User();
}
}
设置JVM参数,先不开启逃逸分析:-Xmx1G -Xms1G -XX:-DoEscapeAnalysis -XX:+PrintGCDetails
接下来开启逃逸分析,: -Xmx1G -Xms1G -XX:+DoEscapeAnalysis -XX:+PrintGCDetails
发现只有很少的User对象,说明User发生了逃逸,因为他们存储在栈中,随着栈的销毁而消失
如果将堆空间内存从 1G
调小成 256M
,就可能会发生GC
同步省略
- 如果一个对象被发现只有一个线程被访问到,那么对于这个对象的操作可以不考虑同步。
- 线程同步的代价相当高,同步的后果就是降低并发性和性能
- 在动态编译同步块的时候,JIT 编译器可以借助逃逸分析来判断同步块所使用的锁对象是否只能够被一个线程访问而没有被发布到其他线程。
- 如果没有,那么 JIT 编译器在编译这个同步块的时候就会取消对这部分代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫同步省略,也叫锁消除。
例如下面的代码
public void f() {
Object hellis = new Object();
synchronized(hellis) {
System.out.println(hellis);
}
}
代码中对hellis
这个对象加锁,但是hellis
对象的生命周期只在f()
方法中,并不会被其他线程所访问到,所以在 JIT编译阶段 就会被优化掉,优化成:
public void f() {
Object hellis = new Object();
System.out.println(hellis);
}
查看字节码文件
尽管字节码文件中还是有 synchronized 的指令,但是在运行的时候会进行优化
分离对象和标量替换
-
标量(Scalar)是指一个无法再分解成更小的数据的数据。【Java中的原始数据类型就是标量】。
-
相对的,那些还可以分解的数据叫做聚合量(Aggregate),【Java中的对象就是聚合量】,因为他可以分解成其他聚合量和标量。
在 JIT 阶段,如果经过逃逸分析,发现一个对象不会被外界访问的话,那么经过 JIT 优化,就会把这个对象拆解成若干个其中包含的若干个成员变量来代替。这个过程就是标量替换。
例如以下代码中:Point类
就是聚合量,可以分解成两个 int
类型的变量,而 x y
就是标量
public static void main(String args[]) {
alloc();
}
class Point {
private int x;
private int y;
}
private static void alloc() {
Point point = new Point(1,2);
System.out.println("point.x" + point.x + ";point.y" + point.y);
}
以上代码,经过标量替换后,就会变成
private static void alloc() {
int x = 1;
int y = 2;
System.out.println("point.x = " + x + "; point.y=" + y);
}
可以看到,Point这个聚合量经过逃逸分析后,发现他并没有逃逸,就被替换成两个聚合量了。
那么标量替换有什么好处呢?就是可以大大减少堆内存的占用。
- 因为一旦不需要创建对象了,那么就不再需要分配堆内存了。
标量替换为栈上分配提供了很好的基础。
通过参数开启或关闭标量替换
- 参数
-XX:+EliminateAllocations
:开启了标量替换(默认打开),允许将对象打散分配在栈上,比如对象拥有id和name两个字段,那么这两个字段将会被视为两个独立的局部变量进行分配
逃逸分析的不足
关于逃逸分析的论文在1999年就已经发表了,但直到 JDK1.6 才有实现,而且这项技术到如今也并不是十分成熟的。
其根本原因就是无法保证逃逸分析的性能消耗一定能高于他的消耗。虽然经过逃逸分析可以做标量替换、栈上分配、和锁消除。
但是逃逸分析自身也是需要进行一系列复杂的分析的,这其实也是一个相对耗时的过程。
一个极端的例子,就是经过逃逸分析之后,发现没有一个对象是不逃逸的。那这个逃逸分析的过程就白白浪费掉了。
虽然这项技术并不十分成熟,但是它也是即时编译器优化技术中一个十分重要的手段。
注意到有一些观点,认为通过逃逸分析,JVM 会在栈上分配那些不会逃逸的对象,这在理论上是可行的,但是取决于 JVM 设计者的选择。
目前来说,Oracle Hotspot JVM 中并未应用栈上分配,这一点在逃逸分析相关的文档里已经说明,所以可以明确所有的对象实例都是创建在堆上。
而前面的案例中,关于开启谭易分析前后出现的差距其实是基于标量替换,而不是栈上分配
目前很多书籍还是基于 JDK7 以前的版本,JDK已经发生了很大变化,intern字符串 的 缓存 和 静态变量 曾经都被分配在永久代上,而永久代已经被元数据区取代。
但是,intern字符串缓存 和 静态变量 并不是被转移到元数据区,而是直接在堆上分配,所以这一点同样符合前面一点的结论:对象实例都是分配在堆上。
所以也回应了最初的那个问题:堆是分配对象的唯一选择吗?
小结
-
年轻代是对象的诞生、成长、消亡的区域,一个对象在这里产生、应用,最后被垃圾回收器收集、结束生命。
-
老年代放置长生命周期的对象,通常都是从 survivor区域 筛选拷贝过来的 Java对象。
-
当然,也有特殊情况,我们知道普通的对象会被分配在TLAB上;如果对象较大,JVM会试图直接分配在Eden其他位置上;如果对象太大,完全无法在新生代找到足够长的连续空闲空间,JVM就会直接分配到老年代。当GC只发生在年轻代中,回收年轻代对象的行为被称为MinorGc。
-
当GC发生在老年代时则被称为 MajorGC 或者 FullGC 。一般的,MinorGC 的发生频率要比 MajorGC 高很多,即老年代中垃圾回收发生的频率将大大低于年轻代。
参考资料
- 《深入理解 Java虚拟机 第三版》
- 《尚硅谷宋红康JVM教程》