JVM内存与垃圾回收篇

jvm基础概念

字节码指的是用java语言编译成的字节码。准确的说任何能在jvm平台上执行的字节码格式都是一样的。所以应该统称为jvm字节码

java虚拟机就是二进制的运行环境,负责装载字节码到其内部,解释/编译为对应平台上的机器指令执行

一次编译,到处运行

自动内存管理

自动垃圾回收功能

jvm架构

java编译器输入的指令流基本上是一种基于栈的指令集架构,另外一种指令集架构则是基于寄存器的指令集架构

基于栈的架构

  • 设计和实现更简单,适用于资源受限的系统
  • 避开了寄存器的分配难题,使用零地址指令方式分配
  • 指令流中的指令大部分是零地址指令,其执行过程依赖操作栈。指令集更小,编译器容易实现
  • 不需要硬件支持,可以移植性更好,更好实现跨平台

基于寄存器架构

  • 典型的应用是X86的二进制指令集
  • 指令集架构完全依赖硬件,可移植性差
  • 性能优秀和执行更高效
  • 花费更少的指令去完成一项操作
  • 在大部分情况下,基于寄存器架构的指令集往往都以一地址指令,二地址指令和三地址指令为主,而基于栈式架构的指令集却是以零地址指令为主
jvm的生命周期

  1. 虚拟机的启动
    • java虚拟机的启动时通过引导类加载器(bootstrap class loader)创建一个初始类(initial class)来完成的,这个类是由虚拟机的具体实现指定的
  2. 虚拟机的执行
    • 一个运行中的java虚拟机有着一个清晰的任务:执行java程序
    • 程序开始执行时jvm才运行,程序结束时就停止
    • 执行一个所谓的java程序的时候,真正执行的是一个叫做java虚拟机的进程
jvm虚拟机

Sun Classic VM

  • 世界上第一款商用的java虚拟机,在jdk1.4时被完全淘汰
  • 内部只提供解释器
  • 如果使用JIT编译器,解释器就不再工作了。解释器和编译器不能配合工作

Exact VM

  • Exact Memory Management:准确式内存管理

    • 虚拟机可以知道内存中某个位置的数据具体是什么类型

  • 只在Solaris平台短暂使用,其他平台上还是classic vm

HotSpot VM

  • jdk1.3时HotSpot VM成为默认的虚拟机

  • 名称中的HotSpot指的是热点代码探测技术

    • 通过计数器找到最具编译价值的代码,触发即时编译或栈上替换

      通过编译器于解释器协同工作,在最优化的程序响应时间与最佳执行性能中取得平衡

JRockit

  • 专注于服务器端应用

    • 不太注重程序启动速度,因此JRockit内部不包含解析器实现,全部代码都靠即时编译器编译后执行

  • JRockit JVM是世界上最快的JVM

J9

  • 全称:IBM Technology for Java Virtual Machine,简称IT4J,内部代号J9
内存管理

image-20210325205328537

类加载器子系统的作用

  • 类加载器子系统负责从文件系统或者网络中加载class文件,class文件在文件开始有特定的文件标识

  • ClassLoader只负责class文件的加载,至于让它是否可以运行,则由ExecutionEngine决定

  • 加载的类信息存放在一块被称为方法区的内存空间。除了类的信息外,方法区中还会存放运行时常量池信息。可能还包括字符串字面量和数字常量(这部分常量信息是class文件中常量池部分的内存映射)

  • 类加载器执行过程

    • class file存在于本地硬盘上,可以理解为设计师画在纸上的模板,而最终模板在执行的时候是要加载到JVM当中来的,根据这个文件实例化出多个一模一样的实例

      class file加载到JVM中,被称为DNA元数据模板。放在方法区

      class文件 -> JVM -> 最终成为元数据模板,此过程需要一个运输工具(类装载器Class Loader),扮演着一个快递员的角色

    • 加载

      • 通过一个类的全限定名获取定义此类的二进制字节流

        将这个字节流所代表的静态存储结果转化为方法区的运行时数据结构

        在内存中生成一个代表这个类的java.lang.Class对象

    • 链接

      • 验证

        • 目的在于确保class文件的字节流中包含信息符合当前虚拟机要求,保证被加载类的正确性,不会危害虚拟机自身安全

          主要包括四种验证:文件格式验证,元数据验证,字节码验证,符号引用验证

      • 准备

        • 为类变量分配内存并且设置该类变量的默认初始值,即零值

          不包含含有final修饰的static变量,因为常量在编译的时候就会分配了,准备阶段会显式初始化

          这里不会为实例变量分配初始值,类变量会被分配在方法区中,而实例变量是会随着对象一起分配到java堆中

      • 解析

        • 将常量池内的符号引用转换为直接引用的过程

          事实上,解析操作往往会伴随着jvm在执行完初始化之后再执行

    • 初始化

      • 初始化阶段就是执行类构造器方法<clinit>()的过程

        此方法不需要定义,是javac编译器自动收集类中的所有类变量的赋值动作和静态代码块中的语句合并而来

        构造器方法中指令按语句在源文件中出现的顺序执行

        <clinit>()不同于类的构造器,构造器是虚拟机视角下的<init>()

        若该类具有父类,jvm会保证在子类的<clinit>()执行前,父类的<clinit>()已经执行完毕

        虚拟机必须保证一个类的<clinit>()方法在多线程下被同步加锁

类加载器的分类

jvm支持两种类型的类加载器,分别为引导类加载器(Bootstrap ClassLoader)自定义类加载器(User-Defined ClassLoader)

从概念上讲,自定义类加载器一般指的是程序中由开发人员自定义的一类类加载器,但是java虚拟机规范却没有这么定义,而是将所有派生于抽象类ClassLoader的类加载器都划分为自定义类加载器

Bootstrap Class Loader:引导类加载器

Extension Class Loader:扩展类加载器

  • jdk15已经没有这个加载器了,而增加了PlatformClassLoader类加载器

System Class Loader:系统类加载器(应用程序类加载器)

java的核心类库都是使用引导类加载器进行加载的,如String,int,Class等,开发者无法获取它们所属的类加载器

虚拟机自带的加载器

  • 启动类加载器(引导类加载器,BootStrap ClassLoader)

    • 这个类加载使用C/C++语言实现的,嵌套在JVM内部

      它用来加载java的核心库,用于提供jvm需要的类

      并不继承自java.lang.ClassLoader,没有父类加载器

      加载扩展类和应用程序类,并指定为他们的父类加载器

      出于安全考虑,BootStrap启动类加载只加载包名为java,javax,sun等开头的类

  • 扩展类加载器(Extension ClassLoader)

    • java语言编写,由sun.misc.Launcher$ExtClassLoader实现

      派生于ClassLoader类

      父类加载器为启动类加载器(这里的父类加载器并不是指父子关系)

      从java.ext.dirs系统属性所指定的目录中加载类库,或从jdk的安装目录的jre/lib/ext子目录(扩展目录)下加载类库。如果用户创建的jar放在此目录下,也会自动由扩展类加载器加载

  • 应用程序类加载器(系统类加载器,AppCLassLoader)

    • java语言编写,由sun.misc.Launcher$AppClassLoader实现

      派生于CLassLoader类

      父类加载器为扩展类加载器

      它负责加载环境变量classpath或系统属性java.class.path指定路径下的类库

      该类加载器是程序中默认的类加载器,一般来说,java应用的类都是由它来完成加载的

      通过CLassLoader$getSystemClassLoader()方法可以获取到该类加载器

  • 用户自定义类加载器

    • 在java的日常应用程序开发中,类的加载几乎是由启动类加载器,扩展类加载器,应用程序加载器相互配合执行的

    • 用户自定义类加载器的使用场景

      • 隔离加载器

        修改类加载的方式

        扩展加载源

        防止源码泄露

    • 用户自定义类加载器实现步骤

      1. 开发人员可以通过继承抽象类java.lang.ClassLoader类的方式,实现自己的类加载器,以满足一些特殊的需求
      2. 在jdk1.2之气那,在自定义类加载器时,总会去继承ClassLoader类并重写loaderClass()方法,从而实现自定义的类加载类,但是在jdk1.2之后,已不再建议用户去覆盖loadClass方法,而是建议把自定义的类加载逻辑写在findClass()方法中
      3. 在编写自定义类加载器时,如果没有太过于复杂的需求,可以直接继承URLClassLoader类,这样就可以避免自己去编写findCLass()方法及其获取字节码流的方式,使自定义类加载器编写更加简洁
获取ClassLoader的途径

  1. 获取当前类的ClassLoader

    • clazz.getClassLoader()

  2. 获取当前线程上下文的ClassLoader

    • Thread.currentThread().getContextClassLoader()

  3. 获取系统的ClassLoader

    • ClassLoader.getSystemClassLoader()

  4. 获取调用者的ClassLoader

    • DriverManager.getCallerClassLoader()

双亲委派机制

java虚拟机对class文件采用的时按需加载的方式,也就是说当需要使用该类时才会将它的class文件加载到内存生成class对象。而且加载某个类的class文件时,java虚拟机采用的是双亲委派模式,即把请求交由父类处理,他是一种任务委派模式

  • 工作原理

    • 如果一个类加载器收到了类加载请求,它并不会自己先去加载,而是把这个请求去委托给父类的加载器去执行

      如果父类加载器还存在其父类加载器,则进一步向上委托,一次次递归,请求最终将到达顶层的启动类加载器

      如果父类加载器可以完成类加载任务,就成功返回,倘若父类加载器无法完成此加载任务,子加载器才会尝试自己去加载

  • 优势

    • 避免类的重复加载

      保护程序安全,防止核心API被随意篡改

  • 沙箱安全机制

    • 自定义String类,但是在加载自定义String类的时候会率先使用引导类加载器加载,而引导类加载器在加载的过程中会先加载jdk自带的文件(rt.jar包中java/lang/String.class),报错信息说没有main方法,就是因为加载的是rt.jar包中的String类。这样可以保证对java核心源代码的保护

  • 在jvm中表示两个class对象是否为同一个类存在两个必要条件

    • 类的完整类名必须一致,包括包名

      加载这个类的ClassLoader(指ClassLoader实例对象)必须相同

  • 类加载器的引用

    • jvm必须知道一个类型是由启动加载器加载的,还是由用户类加载器加载的。如果一个类型是由用户类加载器加载的,那么jvm会将这个类加载器的一个引用作为类型信息的一部分保存在方法区中。当解析一个类型到另一个类型的引用的时候,jvm需要保证这两个类型的类加载器是相同的

  • java程序对类的使用方式分为:主动使用和被动使用

    • 主动使用

      1. 创建类的实例

      2. 访问某个类或接口的静态变量,或者对该静态变量赋值

      3. 调用类的静态方法

      4. 反射

      5. 初始化一个类的子类

      6. jvm启动时被标明为启动类的类

      7. jdk7开始提供的动态语言支持

        • java.lang.invoke.MethodHandle实例的解析结果REF_getStatic,REF_putStatic,REF_invokeStatic句柄对应的类没有初始化,则初始化

    • 被动使用:除了上述七种情况,其他使用java类的方式都被看作是对类的被动使用,都不会导致类的初始化

运行时数据区

java虚拟机定义了若干种程序运行期间会使用到的运行时数据区,其中有一些会随着虚拟机启动而创建,随着虚拟机推出而销毁。另外一些则是与线程一一对应的,这些与线程对应的我数据区域会随着线程开始而开始和结束而创建和销毁

  • 灰色的为单独线程私有,红色的为多个线程共享

    • 每一个线程:独立包括程序计数器,栈,本地栈

      线程间共享(每一个进程):堆,堆外内存(永久代或元空间,代码缓存)

jvm系统线程

虚拟机线程:这种线程的操作是需要jvm达到安全点才会出现。这些操作必须在不同的线程中发生的原因是他们都需要jvm达到安全点,这样堆才不会变化。这种线程的执行类型包括’stop-the-world’的垃圾收集,线程栈收集,线程挂起以及偏向锁撤销

周期任务线程:这种线程是时间周期事件的体现(比如中断),他们一般用于周期性操作的调度执行

GC线程:这种线程对在jvm里不同种类的垃圾收集行为提供了支持

编译线程:这种线程在运行时会将字节码编译成本地代码

信号调度线程:这种线程接收信号并发送给jvm,在它内部通过调用适当的方法进行处理

PC Register

PC寄存器存储指令相关的现场信息

JVM中的PC寄存器是对物理PC寄存器的一种抽象模拟

PC寄存器用来存储指向下一条指令的地址,就是将要执行的指令代码。由执行引擎读取下一条指令

PC寄存器是一块很小的内存空间,几乎可以忽略不记,也是运行速度最快的存储区域

在jvm规范中,每个线程都有它自己的程序计数器,是线程私有的,生命周期与线程的生命周期保持一致

任何时间一个线程都只有一个方法在执行,也就是所谓的当前方法。程序计数器会储存当前线程正在执行的java方法的jvm指令地址;如果是在执行native方法,则是未指定值(undefined)

PC寄存器是程序控制流的指示器,分支,循环,跳转,异常处理,线程恢复等基础功能都需要依赖这个计数器来完成

字节码解释器工作时就是通过改变这个计数器的值来选取下一条需要执行的字节码指令

PC寄存器时唯一一个在jvm规范中没有规定任何OOM情况的区域

关于PC寄存器

  • 使用PC寄存器存储字节码指令地址有什么用?

    • 因为CPU需要不停地切换各个线程,这时候切换回来以后,就得知道接着从哪开始继续执行

      jvm字节码解释器需要通过改变PC寄存器的值来明确下一条应该执行什么样的字节码指令

  • PC寄存器为什么会被设定为线程私有?

    • 多线程在一个特定的时间段内只会执行其中某一个线程的方法,CPU会不停地做任务切换,这样必然导致经常中断或恢复。为了能够准确地记录各个线程正在执行的当前字节码指令地址,最好的办法自然是为么一个线程都分配一个PC寄存器,这样一来各个线程之间便可以进行独立计算,从而不会出现相互干扰的情况

虚拟机栈的概述

内存中的栈与堆

  • 解决程序的运行问题,即程序如何执行,或者说如何处理数据
  • 解决的是数据存储的问题,即数据怎么放,放在哪里

java虚拟机栈

  • java虚拟机栈,早期也叫java栈,每个线程在创建时都会创建一个虚拟机栈,其内部保存一个个栈帧,对应着一次次的java方法调用
  • java虚拟机栈是线程私有的,其生命周期与线程相同
  • 主要用来管理java程序的运行,java虚拟机栈保存方法的局部变量(8种基本数据类型,对象的引用地址),部分结果,并参与方法的调用和返回

栈的优点

  • 栈是一种快速有效的分配存储方式,访问速度仅次于程序计数器

    jvm直接对java栈的操作只有两个

    1. 每个方法执行,伴随着进栈(入栈,压栈)
    2. 执行结束后的出栈工作

    对于栈来说不存在垃圾回收问题

栈中可能出现的异常

  • jvm规范允许java栈的大小是动态的或者是固定不变的

    • 如果采用固定大小的java虚拟机栈,那每一个线程的java虚拟机容量可以在线程创建的时候独立选定。如果线程请求分配的栈容量超过java虚拟机栈允许的最大容量,java虚拟机将会抛出一个StackOverflowError异常

      如果java虚拟机栈可以动态扩展,并且在尝试扩展的时候无法申请到足够的内存,或者在创建新的线程时没有足够的内存区创建对应的虚拟机栈,那java虚拟机将会抛出一个OutOfMemoryError异常

设置栈内存的大小

  • 通过-Xss选项来设置线程的最大栈空间,栈的大小直接决定了函数调用的最大可达深度
栈帧
  • 每个线程都有自己的栈,栈中的数据都是以栈帧的格式存在的

  • 在这个线程上正在执行的每个方法都各自对应一个栈帧

  • 栈帧是一个内存区块,是一个数据集,维系着方法执行过程中的各种数据信息

  • jvm对java栈的直接操作只有两个,就是对栈帧的压栈和出栈

  • 在一条活动线程中,一个时间点上,只会有一个活动的栈帧。即只有当前正在执行的方法的栈帧(栈顶栈帧)是有效的,这个栈帧被称为当前栈帧,与当前栈帧相对应的方法就是当前方法,定义这个方法的类就是当前类

  • 执行引擎运行的所有字节码指令只针对当前栈帧进行操作

  • 如果在该方法中调用了其他方法,对应的新的栈帧就会被创建出来,放在栈的顶端,成为新的当前帧

  • 不同的线程中所包含的栈帧是不允许存在相互引用的,即不可能在一个栈帧之中引用另一个线程的栈帧

  • 如果当前方法调用了其他方法,方法返回之际,当前栈帧会传回此方法的执行结果给前一个栈帧,接着,虚拟机会丢弃当前栈帧,使得掐你一个栈帧重新成为当前栈帧

  • java方法有两个返回函数的方式,一种是正常的函数返回,使用return指令;另一种是抛出异常。不管使用哪一个方式,都会导致栈帧被弹出

栈帧的内部结构

每个栈帧中存储着

  1. 局部变量表(Local Variables)
  2. 操作数栈(Operand Stack),或表达式栈
  3. 动态链接(Dynamic Linking),或指向运行时常量池的方法引用
  4. 方法返回地址(Return Address),或方法正常退出或者异常退出的定义
  5. 一些附加信息

局部变量表

  • 局部变量表也被称之为局部变量数组或本地变量表
  • 定义了一个数字数组,主要用于存储方法参数和定义在方法体内的局部变量,这些数据类型包括各类基本数据类型,对象引用,以及returnAddress类型
  • 由于局部变量表是建立在线程的栈上,是线程的私有数据,因此不存在数据安全问题
  • 局部变量表所需的容量大小是在编译期确定下来的,并保存在方法的Code属性的maximum local variable数据项中。在方法运行期间是不会改变局部变量表的大小的
  • 方法嵌套调用的次数由栈的大小决定。一般来说,栈越大,方法嵌套调用的次数越多
  • 局部变量表中的变量只在当前方法调用中有效。在方法执行中,虚拟机通过使用局部变量表完成参数值到参数变量列表的传递过程。当方法调用结束后,随着方法栈帧的销毁,局部变量表也会随之销毁

关于Slot的理解

  • 参数值的存放总是在局部变量数组的index0开始,到数组长度-1的索引结束

  • 局部变量表,最基本的存储单元是Slot(变量槽)

  • 局部变量表中存放编译器可知的各种基本数据类型(8种),引用类型(reference),returnAddress类型的变量

  • 在局部变量表中,32为以内的类型只占用一个slot(包括returnAddress类型),64位的类型(long和double)占用两个slot

    • byte,shot,chat在存储前转换为int,boolean也被转换成int,0表示false,非0表示true

      long和double则占据两个Slot

  • jvm会为局部表中的每一个Slot都分配一个访问索引,通过这个索引即可成功访问到局部变量表中指定的局部变量值

  • 当一个实例方法被调用的时候,它的方法参数和方法体内部定义的局部变量将会按照顺序被复制到局部变量表中的每一个slot上

  • 如果需要访问局部变量表中的64bit的局部变量时,只需要使用前一个索引即可

  • 如果当前帧是由构造方法或者实例方法创建的,那么该对象引用this将会存放在index为0的slot处,其余的参数按照参数表顺序继续排列

  • 栈帧中的局部变量表中的槽位是可以重用的,如果一个局部变量过了其作用域,那么在其作用域之后申明的新的局部变量就很可能会复用过期局部变量的槽位,从而达到节省资源的目的

静态变量与局部变量的对比

  • 参数表分配完毕之后,再根据方法体内定义的变量顺序和作用域分配
  • 类变量表由两次初始化的机会,第一次是在’准备阶段’,执行系统初始化,对类变量设置零值,另一次则是在’初始化’阶段,赋予开发者在代码中定义的初始值
  • 局部变量表不存在系统初始化的过程,这意味着一旦定义了局部变量则必须认为地初始化,否则无法使用
  • 在栈帧中,与性能调优关系最为密切的部分就是局部变量表。在方法执行时,虚拟机使用局部变量表完成方法的传递
  • 局部变量表中的变量也是重要的垃圾回收根节点,只要被局部变量表中直接或间接引用的对象都不会被回收
操作数栈
  • 每一个独立的栈帧中除了包含局部变量表以外,还包含一个后进先出的操作数栈,也可以称之为表达式栈

  • 操作数栈,在方法执行过程中,根据字节码指令,往栈中写入数据或提取数据,即入栈(push)/出栈(pop)

    • 某些字节码指令将值压入操作栈,其余的字节码指令将操作数取出栈。使用它们后再把结果压入栈

  • 如果被调用的方法带有返回值的话,其返回值将会被压入当前栈帧的操作数栈中,并更新PC寄存器中下一条需要执行的字节码指令

  • 操作数栈中的数据类型必须与字节码指令的序列严格匹配,这由编译器在编译期间进行验证,同时在类加载过程中的类检验阶段的数据流分析阶段要再次验证

  • 我们所说的java虚拟机的解释引擎是基于栈的执行引擎,其中的栈指的就是操作数栈

  • 操作数栈主要用于保存计算过程的中间结果,同时作为计算过程中变量临时的存储空间

  • 操作栈就是jvm执行引擎的一个工作区,当一个方法方法刚开始执行的时候,一个新的栈帧也会随之被创建出来,这个方法的操作数栈是空的

  • 每一个操作数栈都会拥有一个明确的栈深度用于储存数值,其所需的最大深度在编译器就定义好了,保存在方法的code属性中,为max_stack的值

  • 栈中的任何一个元素都可以是任意的java数据类型

    • 32bit的类型占用一个栈单位深度

      64bit的类型占用两个栈单位深度

  • 操作数栈并非采用访问索引的方式来进行数据访问,而是只能通过标准的入栈(push)和出栈(pop)操作来完成一个数据访问

栈顶缓存技术

  • 基于栈式架构的虚拟机所使用的零地址指令更加紧凑,但完成一项操作的时候必然需要使用更多的入栈和出栈指令,这同时也就意味着将需要更多的指令分派次数和内存读写次数
  • 由于操作数是存储在内存中的,因此频繁地执行内存读写操作必然会影响执行速度。为了解决这个问题HotSpot Jvm的设计者们提出了栈顶缓存技术,将栈顶元素全部缓存在物理cpu的寄存器中,以此来降低对内存的读写次数,提升执行引擎的执行效率

动态链接

  • 每一个栈帧内部都包含一个指向运行时常量池中该栈帧所属方法的引用。包含这个应用的目的就是为了支持当前方法的代码能够实现动态链接。比如:invokedynamic指令

  • 在java源文件被编译到字节码文件中时,所有的变量和方法引用都作为符号引用保存在class文件的常量池里。比如:描述一个方法调用了另外的方法时,就是通过常量池中指向方法的符号引用来表示的,那么动态链接的作用就是为了将这些符号一个用装换成调用方法的直接引用

  • 常量池的作用

    • 为了提供一些符号和常量,便于指令的识别

  • 方法的调用

    • 静态链接

      • 当一个字节码文件被装载进jvm内部时,如果被调用的目标方法在编译器可知,且运行期保持不变时。这种情况下将调用方法的符号引用转换为直接引用的过程称之为静态链接

    • 动态链接

      • 如果被调用的方法在编译器无法被确定下来,只能在程序运行期将调用方法的符号引用转换为直接引用,由于这种引用转换的过程具备动态性,因此也被称之为动态链接

    • 对应的方法的绑定机制为:早期绑定和晚期绑定。绑定是一个字段,方法或者类在符号引用被替换成直接引用的过程,这个过程仅仅发生一次

      • 早期绑定

        早期绑定就是指被调用的目标方法如果在编译器可知,且运行期保持不变时,即可将这个方法与所属的类型进行绑定。由于明确了被调用的目标方法究竟是哪一个,因此也就可以使用静态链接的方式将符号引用转换成直接引用

        晚期绑定

        如果被调用的方法在编译器无法被确定下来,只能够在程序运行期更具实际的类型绑定相关的方法,这种绑定的方式也被称之为晚期绑定

    • 面向对象的变成语言具备多态特性,而具备多态特性也就具备了早期绑定和晚期绑定两种绑定方法

    • java中任何一个普通的方法其实都具备虚函数的特性,它们相当于C++语言中的虚函数(C++中则需要使用关键字virtual来显式定义)。如果在java程序中不希望某个方法用于虚函数的特性时,则可以使用关键字final来标记这个方法

    • 非虚方法

      • 如果方法在编译器就确定了具体的调用版本,这个版本在运行时是不可变的。这样的方法被称为非虚方法

        静态方法,私有方法,final方法,实例构造器,父类方法都是非虚方法

    • 虚方法

      • 除了非虚方法以外的方法

    • 虚拟机中提供的几种方法调用指令

      • 普通调用指令

        • invokestatic:调用静态方法,解析阶段确定唯一方法版本

          invokespecial:调用<init>方法,私有及父类方法,解析阶段确定唯一方法版本

          invokevirtual:调用所有虚方法

          invokeinterface:调用接口方法

      • 动态调用指令

        • invokedynamic:动态解析出需要调用的方法,然后执行

      • 普通调用指令固化在虚拟机内部,方法的调用执行不可认为干预,而invokedynamic指令则支持由用户确定方法版本。其中invokestatic指令和invokespecial指令调用的方法称为非虚方法,其余的(final修饰的除外)称为虚方法

    • 动态类型语言与静态类型语言

      • 静态类型变量是判断变量自身的类型信息

        动态类型语言是判断变量值的类型信息,变量没有类型信息,变量值才有类型信息

    • 虚方法表

      • 在面向对象的编程中,会很频繁地使用到动态分派,如果在每次动态分派的过程中都要重新在类的方法元数据中搜索合适的目标的话就可能影响到执行效率。为了提高性能,jvm采用在类的方法区建立一个虚方法表(非虚方法不会出现在表中)来实现。使用索引表来代替查找
      • 每个类中都有一个虚方法表,表中存放着各个方法的实际入口
      • 虚方法表会在类加载的来链接阶段被创建并开始初始化,类的变量初始值准备完成之后,jvm会把该类的方法表也初始化完毕
  • 方法返回地址(return address)

    • 存放调用方法的PC寄存器的值

    • 一个方法的结束,有两种方式

      • 正常执行完成

        出现未处理的异常,非正常推出

      • 无论是那种方式退出,在方法退出后都返回到该方法被调用的位置

        • 方法正常退出时,调用者的PC计数器的值作为作为返回地址,即调用该方法的指令的下一条指令的地址

          通过异常退出的方法,返回地址时要通过异常表来确定,栈帧中一般不会保存这部分信息

          正常完成出口和异常完成出口的区别在于:通过异常完成出口退出的,不会给他的上层调用者产生任何的返回值

        • 执行引擎遇到任意一个方法返回的字节码指令(return),会有返回值传递给上层的方法调用者,简称正常完成出口

          • 一个方法在正常调用完成之后究竟需要使用哪一个返回指令还需要根据方法返回值的实际数据类型而定

            在字节码指令中,返回指令包含ireturn(当返回值是boolean,byte,char,short和int类型时使用),lreturn,freturn,dreturn,areturn,另外还有一个return指令供声明为void的方法,实例初始化方法,类和接口的初始化方法使用

        • 在方法执行的过程中遇到了异常,并且这个异常没有在方法内进行处理,也就是只要在本方法的异常表中没有搜索到匹配的处理器,就会导致方法退出,简称异常完成出口

          • 方法执行过程中抛出异常时的异常处理存储在一个异常处理表,方便在发生异常的时候找到处理异常的代码

    • 附加信息

      • 栈帧中还允许携带与jvm实现相关的一些附加信息。例如,对程序调试提供支持的信息

栈相关的面试题
  • 举例栈溢出的情况?
    • StackOverflowError
    • 方法递归调用层次过深
    • 可以通过-Xss设置栈的大小
  • 调整栈大小,就能保证不出现溢出了吗?
    • 不能,栈空间较大,只能保证可被执行的方法层次更深
  • 分配的栈内存越大越好吗?
    • 不会
  • 垃圾回收是否会涉及到虚拟机栈?
    • 不会
    • PC寄存器不存在栈溢出和GC
    • 操作数栈只存在栈溢出,不存在GC
    • 本地栈同样也只存在栈溢出,不存在GC
    • 堆存在栈溢出和GC
  • 方法中定义的局部变量是否线程安全?
    • 按情况分析,即可能是线程安全,也可能是线程不安全
本地方法

一个Native Method就是一个java调用非java代码的接口,一个Native Method是这样一个java方法:该方法的实现由非java语言实现,比如C。这个特征并非java所有,很多其他编程语言都有这一机制,比如在C++中,可以使用’extern C’告知C++编译器去调用一个C的函数

在定义一个native method时,并不提供实现体(有些像定义一个Java Interface),因为其实现体是由非java语言在外面实现的

本地接口的作用是融合不同的编程语言为java所有,它的初衷是融合C/C++程序

标识符native可以与所有其他的java标识符连用,但是abstract除外

为什么要使用Native Method?

  1. 与Java环境外进行交互

    • 有时java应用需要与java外面的环境交互,这是本地方法存在的主要原因

  2. 与操作系统交互

    • 通过使用本地方法,我们得以java实现了jre与底层系统的交互,甚至jvm的一些部分就是用C写的

  3. Sun’s Java

    • Sun的解释器使用C实现的,这使得他能够像一些普通的C一样与外部交互

本地方法栈

java虚拟机栈用于管理java方法的调用,而本地方法栈用于管理本地方法的调用

本地方法栈,也是线程私有的

允许被实现成固定或者是可动态扩展的内存大小

  1. 如果线程请求分配的栈容量超过本地方法栈允许的最大容量,java虚拟机将会抛出一个StackOverflowError异常
  2. 如果本地方法栈可以动态扩展,并且在尝试扩展的时候无法申请到足够的内存,或者在创建新的线程时没有足够的内存去创建对应的本地方法栈,那么java虚拟机将会抛出一个OutOfMemoryError异常

本地方法是使用C语言实现的

它的具体做法是Native Method Statck中登记native方法,在Execution Engine执行时加载本地方法库

当某个线程待用一个本地方法时,它就进入了一个全新的并且不再受虚拟机限制的世界。它和虚拟机用于同样的权限

  • 本地方法可以通过本地方法接口来访问虚拟机内部的运行时数据区

    甚至可以直接使用本地处理器中的寄存器

    直接从本地内存的堆中分配任意数量的内存

并不是所有的jvm都支持本地方法,因为java虚拟机规范并没有明确要求本地方法栈的适应语言,具体实现方式,数据结构等。如果jvm产品不打算支持native方法,也可以无需实现本地方法栈

在Hotspot jvm中,直接将本地方法栈和虚拟机栈合二为一了


一个jvm实例只存在一个堆内存,堆也是java内存管理的核心区域

java堆区在jvm启动的时候就被创建了,其空间大小也就确定了。是jvm管理的最大一块内存空间

堆内存的大小是可以调节的

堆可以处于物理上不连续的内存空间中,但在逻辑上它应该被视为连续的

所有的线程共享java堆,在这里还可以划分线程私有的缓冲区

数组和对象可能永远不会存储在栈上,因为栈帧中保存引用,这个引用指向对象或者数组在堆中的位置

在方法结束后,堆中的对象不会马上被移除,仅仅在垃圾收集的时候才会被移除

堆是GC(Garbage Collection,垃圾收集器)执行垃圾回收的重点区域

现代垃圾收集器大部分都基于分代收集理论设计,堆空间细分为:

  • java7及之前的堆内存逻辑上分为三个部分:新生区 + 养老区 + 永久区

    • Young Generation Space 新生区 Young/New

      • 又被划分位Eden区和Survivor区

      Tenure generation space 养老区 Old/Tenure

      Permanent Space 永久区 Perm

  • java8及之后堆内存逻辑上分为三部分:新生区 + 养老区 + 元空间

    • Young Generation Space 新生区 Young/New

      • 又被划分为Eden区和Survivor区

      Tenure generation space 养老区 Old/Tenure

      Meta Space 元空间 Meta

  • 约定

    • 新生区 = 新生代 = 年轻代

      养老区 = 老年区 = 老年代

      永久区 = 永久代

堆空间的大小

java堆区用于存储java对象实例,堆的大小在jvm启动时就已经设定好了

  • -Xms用于表示堆区的起始内存,等价于-XX:InitialHeapSize

    • 设置参数时默认单位时字节,可设置k,m,g为单位(不区分大小写)

    -Xmx用于表示堆区的最大内存,等价于-XX:MaxHeapSize

  • 一旦堆区中的内存大小超过-Xmx所指定的最大内存时,将会抛出OOM异常

  • 通常会-Xms-Xmx两个参数配置相同的值,目的是为了能够在java垃圾回收机制清理完堆区后不需要重新分隔计算堆区的大小,从而提供性能

  • 默认情况下,初始内存(-Xms):物理电脑内存大小/64;最大内存大小(-Xmx):物理电脑内存大小/4

  • 查看堆内存分配情况

    1. jps:查看当前运行的java进程

      jstat -gc [进程号]:查看进程的堆内存分配

    2. XX:+PrintGCDetails:打印java程序的堆内存分配

年轻代与老年代

  • 存储在jvm中的java对象可以被划分为两类

    1. 一类是生命周期比较短的瞬时对象,这类对象的创建和消亡都非常迅速
    2. 另一类对象的生命周期却非常长,在某些极端的情况下还能够与jvm的生命周期保持一致
  • java堆区进一步细分,可以划分为年轻代(YoungGen)和老年代(OldGen)

  • 其中年轻代又可以划分为Eden空间,Survivor0空间和Survivor1空间(有时也叫做from区和to区)

  • 年轻代和老年代的堆内存占比(一般不会修改)

    • 默认-XX:NewRatio=2,表示新生代占1,老年代占2,新生代占整个堆的1/3

      可以修改-XX:NewRatio=4,表示新生代占1,老年代占4,新生代整个堆的1/5

    • 可以通过jinfo -flag NewRatio [进程号]查看年轻代与老年代的堆内存占比

    • 在HotSpot中,Eden空间和另外两个Survivor空间缺省所占的比例是8:1:1

    • 通过-XX:SurvivorRatio调整这个空间比例

      • -XX:-UseAdaptiveSizePolicy关闭自适应内存分配策略

    • 几乎所有的java对象都是在Eden区被new出来的

    • 绝大部分的java对象的销毁在新生代进行

    • 可以使用-Xmn设置新生代的最大内存大小(一般使用默认值)

  • 对象分配过程

    • 为新对象分配内存是一件非常严谨和复杂的任务,jvm的设计者们不仅需要考虑内存如何分配,在哪里分配等问题,并且由于内存分配算法与内存回收算法密切相关,所以还需要考虑GC执行完内存回收后是否会在内存空间中产生内存碎片

      1. new的对象先放Eden区,Eden区由大小限制

      2. 当Eden区的空间填满时,程序有需要创建对象,jvm的垃圾回收器将对Eden区进行垃圾回收(Minor GC),将Eden区中不再被其他对象所引用的对象进行销毁。再加载新的对象放到Eden区

      3. 然后将Eden区中剩余的对象移动到Survivor0区

      4. 如果再次触发垃圾回收,此时上次在Survivor0区幸存下来的对象,如果没有被回收,就会被放到Survivor1区

      5. 如果再次经历垃圾回收,此时会重新将在Survivor1区存活的对象移动到Survivor0区

      6. 每次对象在垃圾回收时存活则age++,默认当age大于15时将存活的对象移动到养老区

        • 可以设置参数-XX:MaxTenuringThreshold进行设置

      7. 简单图示

      8. 完整图示

        • 针对Survivor0区和Survivor1区:复制之后又交换,谁空谁是to

          关于垃圾回收:频繁在新生去收集,很少在养老区收集,几乎不在永久区/元空间收集

Minor GC, Major GC, Full GC

jvm在进行gc时,并非每次都对堆区的全部内存区(新生区和老年区,还有方法区)回收的,大部分时候回收的都是新生区

针对HotSpot VM的实现,它里面的GC按照回收区域又分为两大种类型

  • 一种是部分收集(Partial GC)

    一种是整堆收集(Full GC)

  • 部分收集:不是完整的整个java堆的垃圾回收

    • 新生代收集(Minor GC/Young GC):只是新生代(Eden,S0,S1)的垃圾收集

      老年代收集(Major GC/Old GC):只是老年代的垃圾收集

      • 目前只有CMS GC会有单独收集老年代的行为
      • 很多时候Major GC会和Full GC混淆使用,需要具体分辨是老年代回收还是整堆回收

      混合收集(Mixed GC):收集整个新生区以及部分老年代的垃圾收集

      • 目前只有G1 GC会有这种行为
  • 整堆收集(Full GC):收集整个java堆和方法区的垃圾收集

年轻代GC(Minor GC)触发机制

  • 当年轻代空间不足时,就会触发Minor GC,这里的年轻代满指的是Eden区满,Survivor区满不会引发GC(每次Minor GC会清理年轻代的内存)

    因为java对象大多都是具备朝生夕灭的特性,所以Minor GC非常频繁,一般回收速度也比较快

    Minor GC会引发STW(Stop Work),暂停其他用户的线程,等垃圾回收结束,用户线程才恢复运行

  • Minor GC的一般流程

老年代GC(Major GC)触发机制

  • 指发生在老年代的GC,对象从老年代消失时,我们说"Major GC"发生了

  • 出现了Major GC,经常会伴随至少一次Minor GC(但非绝对的,在Parallel Scavenge收集器的收集策略里就有直接进行Major GC的策略选择过程)

    • 也就是在老年代空间不足时,会先尝试触发Minor GC。如果之后空间还不足,则触发Major GC

  • Major GC的速度一般会比Minor GC慢10倍以上,STW的时间更长

  • 如果Major GC后,内存还不足,就会报OOM

Full GC触发机制

  1. 调用System.gc()时,系统建议执行Full GC,但是不必然执行
  2. 老年代空间不足
  3. 方法区空间不足
  4. 通过Minor GC后进入老年代的平均大小大于老年代的可用内存
  5. 由Eden区,S1区(from区)向S2(to区)复制时,对象大小大于S2区可用内存,则把该对象转存到老年代,且老年代的可用内存小于该对象的大小
  6. 说明:Full GC时开发或调优中尽量要避免的
内存分配策略(或对象提升(Promotion)规则)

如果对象在Eden出生并经过第一次Minor GC后仍然存活,并且能被Survivor容纳的话,将被移动到Survivor空间中,并将对象年龄(age)设为1。对象在Survivor区经过一次Minor GC且存活,则年龄(age)增加1,当它的年龄增加到超过一个程度(默认为15),就会晋身到老年代中

对象晋升老年代的年龄阈值,可以通过选项-XX:MaxTenuringThreshold来设置

针对不同年龄段的对象分配原则

  1. 优先分配到Eden

  2. 大对象直接分配到老年代

    • 尽量避免程序中出现过多的大对象

  3. 长期存活的对象分配到老年代

  4. 动态对象年林判断

    • 如果Survivor区中相同年龄的所有对象大小的总和大于Survivor空间的一半,年龄大于或等于该年龄的对象可以直接进入老年代,无需等到MaxTenuringThreshold中要求的年龄

  5. 空间分配担保

    • -XX:HandlePromotionFailure

TLAB(Thread Local Allocation Buffer)产生原因

  • 堆区时线程共享区域,任何线程都可以访问堆区中的共享数据
  • 由于对象实例的创建在jvm中非常频繁,因此在并发环境下从堆区中划分内存空间时线程不安全的
  • 为避免多个和线程操作同一地址,需要使用加锁等机制,进而影响分配速度

TLAB

  • 从内存模型而不是垃圾收集的角度,对Eden区域继续进行划分,jvm为每个线程分配了一个私有缓存区域,它包含在Eden空间内

  • 多线程同时分配内存时,使用TLAB可以避免一系列的非线程安全问题,同时还能够提升内存分配的吞吐量,因此我们可以将这种内存分配方式称之为快速分配策略

  • 所有的OpenJDK衍生出来的jvm都提供了TLAB的设计

  • 尽管不是所有的对象实例都能够在TLAB中成功分配内存,但jvm确实是将TLAB作为内存分配的首选

  • 在程序中,开发人员可以通过选项-XX:UseTLAB设置是否开启TLAB空间,jdk8默认开启TLAB

    • 通过jinfo -flag UseTLAB [进程号]可以查看是否开启TLAB

  • 默认情况下,TLAB空间的内存非常小,仅占有整个Eden空间的1%,当然我们可以通过选项-XX:TLABWasteTargetPercent设置TLAB空间所占用Eden空间的百分比大小

  • 一旦对象在TLAB分配空间内存失败,jvm就会尝试着通过使用加锁机制确保数据操作的原子性,从而直接在Eden空间中分配内存

jvm中的常用参数

-XX:+PrintFlagsInitial		# 查看所有的参数的默认初始值
-XX:+PrintFlagsFinal		# 查看所有的参数的最终值(可能存在修改,被重新赋值的参数会有':=',同样也可以通过jinfo -flag [参数名] [进程id])
-Xms					   # 初始堆空间内存(默认为物理内存的1/64)
-Xmx					   # 最大堆空间内存(默认是物理内存的1/4)
-Xmn					   # 设置新生代的大小(初始值及最大值)
-XX:NewRatio			    # 设置新生代与老年代在堆结构的占比,默认为2:1
-XX:SurvivorRatio			# 设置新生代中Eden与S0/S1空间的比列,默认为8:1:1
-XX:MaxTenuringThreshold	 # 设置新生代垃圾的最大年龄,默认阈值为15
-XX:+PrintGCDetails			# 输出详细的GC处理日志
    -XX:+PrintGC			# 打印gc简要信息
    -verbose:gc				# 打印gc简要信息
-XX:+HandlePromotionFailure	 # 是否设置空间分配担保,jdk7及以后该参数默认为true且修改无效

在发生Minor GC之前,虚拟机会检查老年代最大可用的连续空间是否大于新生代所有对象的总空间

  1. 如果大于,则此次Minor GC是安全的,即进行Minor GC
  2. 如果小于,则虚拟机会查看-XX:+HandlePromotionFailure设置值是否允许担保失败
    1. 如果参数为true,那么会继续检查老年代最大可用连续空间是否大于历次晋升到老年代的对象的平均大小
      1. 如果大于,则尝试及逆行一次Minor GC,但这次Minor GC依然是有风险的
      2. 如果小于,则改为进行一次Full GC
    2. 如果为false,则改为进行一次FullGC
    • 在jdk7及以后,HandlePromotionFailure的参数不会在影响到虚拟机的空间分配担保策略,虽然还存在该参数,但已经不再使用它了
    • 在jdk7及以后,规则变为只要老年代的连续空间大于新生代对象总大小或历次晋升的平均大小就会进行Minor GC,否则将进行Full GC,即相当于HandlePromotionFailure的参数为true的情况
堆是分配对象存储的唯一选择吗?

随着JIT编译器的发展与逃逸分析技术逐渐成熟,栈上分配标量替换优化技术将会导致一些微妙的变化,所有的对象都分配到堆上也渐渐变得不那么"绝对"

在java虚拟机中,对象是在java堆中分配内存的,这是一个普遍常识。但有一种特殊情况,那就是经过==逃逸分析(Escape Analysis)==之后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配。这样就无需在堆上分配内存,也无须进行垃圾回收了。这也是常见的堆外存储技术

除此之外,基于OpenJDK深度定制的TaoBaoVM,其中创新的GCIH(GC invisible heap)技术实现off-heap,将生命周期较长的java对象从heap中移至heap外,并且GC不能管理GCIH内部的java对象,以达到降低GC的回收频率和提升GC的回收效率的目的

逃逸分析

  • 将堆上的对象分配到栈上,需要使用逃逸分析手段

  • 逃逸分析是一种可以有效减少java程序中同步负载和内存堆分配压力的跨函数全局数据流分析算法

  • 通过逃逸分析,HotSpot编译器能够分析出一个新的对象的引用使用范围从而决定是否要将这个对象分配到堆上

  • 逃逸分析的基本型位就是分析对象动态作用域

    • 当一个对象在方法中被定义后,对象只在方法内部使用,则认为没有发生逃逸

      • 没有发生逃逸的对象,则可以分配到栈上,随着方法执行的结束,栈空间就被移除

      当一个对象在方法中被定义后,它被外部方法所引用,则认为发生逃逸。例如作为调用参数传递到其他地方

  • 在jdk7及以后,HotSpot中就默认已经开启了逃逸分析

    • 可以通过-XX:DoEscapeAnalysis显示开启逃逸分析
    • 通过-XX:+PrintEscapeAnalysis查看逃逸分析的筛选结果
  • 结论:开发中能使用局部变量的,就不要使用全局变量

  • 使用逃逸分析,编译器可以对代码做如下优化

    1. 栈上分配。将堆分配转化为栈分配。如果一个对象在子程序中被分配,如果指向该对象的指针永远不会逃逸,对象可能是栈分配的候选,而不是堆分配

      • JIT编译器在编译期间根据逃逸分析的结果,发现如果一个对象并没有逃逸出方法的话,就可能被优化成栈上分配。分配完成后,继续在调用栈内执行,最后线程结束,栈空间被回收,栈空间被回收,局部变量对象也被回收,这样就无需进行垃圾回收

    2. 同步省略。如果一个对象被发现只能从一个线程被访问到,那么对于这个对象的操作可以不考虑同步

      • 线程同步的代价是相当高的,同步的后果是降低并发性和性能

        在动态编译同步块的时候,JIT编译器可以借助逃逸分析来判断同步块所使用的锁对象是否能够被一个线程访问而没有被发布到其他线程。如果没有,那么JIT编译器在编译这个同步块的时候就会取消对这部分代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫同步省略,也叫锁消除

    3. 分离对象或标量替换。有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,那么对象的部分(或全部)可以不存储在内存,而是存储在CPU寄存器中

      • 标量(Scalar):是指一个无法再分解成更小的数据的数据。java中的原始数据类型就是标量

        相对的,那么还可以分解的数据叫做聚合量(Aggregate),java中的对象就是聚合量,因为他可以分解其他成聚合量和标量

        在JIT阶段,如果经过逃逸分析,发现一个对象不会被外界访问的话,那么经过JIT优化,就会把这个对象拆解成若干个成员变量来代替。这个过程就是标量替换

      • 标量替换参数设置

        • 参数-XX:+EliminateAllocations开启了标量替换(默认打开),允许将对象打散分配在栈上

  • 逃逸分析并不成熟,其根本原因就是无法保证逃逸分析的一定能高于它的消耗。虽然经过逃逸分析可以做标量替换,栈上分配和锁消除。但是逃逸分析自身也是需要进行一系列复杂的分析,这其实也是一个相对耗时的过程

  • intern字符串的缓存和静态变量曾经都被分配在永久代上,而永久代已经被元数据区取代。但是intern字符串缓存和静态变量并不是被转移到元数据区,而是直接在堆上分配,所以可以认为对象实例都是分配在堆上的

GC总结

年轻代是对象的诞生,成长,消亡的区域,一个对象在这里产生,应用,最后被垃圾回收器收集,结束生命

老年代放置长生命周期的对象,通常都是从Survivor区域筛选复制过来的java对象。也存在特殊情况,我们知道普通的对象会被分配在TLAB上;如果对象较大,JVM会试图直接分配在Eden其他位置上;如果对象太大,完全无法在新生代找到足够长的连续空闲空间,JVM就会直接分配到老年代

当GC只发生在年轻代中,回收年轻代对象的行为被称为MinorGC

当GC发生在老年代时,则被称为MajorGC。一般的,MinorGC的发生概念要比MajorGC高很多,即老年代中垃圾回收发生的频率将大大低于年轻代

方法区

运行时数据区结构图

从线程共享与否角度来看

栈,堆和方法区的交互关系

尽管所有的方法区在逻辑上是属于堆的一部分,一些简单的实现可能不会选择去进行垃圾收集或者及逆行压缩。但对于HotSpot JVM而言,方法去还有一个别名叫做Non-Heap(非堆),目的就是要和堆分开。因此,方法区可以看作是一块独立于java堆的内存空间

方法区(Method Area)与java堆一样,是各个线程共享的内存区域

方法区在jvm启动的时候被创建,并且它的实际物理内存空间中和java堆区一样都是可以是不连续的

方法区的大小,跟堆空间一样,可以选择固定大小或者可扩展

方法区的大小决定了系统可以保存多少个类,如果系统定义了太多的类,导致方法区溢出,虚拟机同样会抛出内存溢出错误

  • 加载大量的第三方jar包

    Tomcat部署的工程过多

    大量动态生成反射类

关闭jvm就会释放这个区域的内存

HotSpot中方法区的演进

在jdk7及以前,习惯上把方法区,称为永久代;jdk8开始,使用元空间取代了永久代

本质上,方法区和永久代并不等价。仅是对hotspot而言的。《java虚拟机规范》对如何实现方法区,不做统一要求。例如:BEA JRockit/IBM J9中不存在永久代的概念

  • 现在来看,使用永久代不是好的主意。导致java程序更容易OOM(超过-XX:MaxPermSize上限)

jdk8完全废弃了永久代的概念,改用与JRockit,j9一样在本地内存中实现的元空间(Metaspace)来代替

元空间的本质和永久代类似,都是对jvm规范中方法区的实现。不过元空间与永久代最大的区别在于元空间不再虚拟机设置的内存中,而是使用本地内存

如果方法区无法满足新的内存分配需求时,将抛出OOM异常

设置方法区内存大小

jdk8及以后

  • 元数据区大小可以使用参数-XX:MetaspaceSize-XX:MaxMetaspaceSize指定
  • 默认值依赖于平台。windows下,-XX:MetaspaceSize是21M,-XX:MaxMetaspaceSize的值是-1,即没有限制
  • 与永久代不同,如果不指定大小,默认情况下,虚拟机会耗尽所有的可用系统内存。如果元数据区发生溢出,虚拟机一样会抛出OOM
  • -XX:MetaspaceSize设置出事的元空间大小。对于一个64位的服务器端JVM来说,其默认的-XX:MetaspaceSize值为21M,这就是初始的高水位线,一旦触及这个水位线,Full GC将会被触发并卸载没用的类(即这些类对应的类加载器不再存活),然后这个高水位线将会被重置。新的高水位线值取决于GC后释放了多少元空间。如果释放的空间不足,那么在不超过MaxMetaspaceSize时,适当提高该值。如果释放空间过多,则适当降低该值
  • 如果初始化的高水位线设置过低,上述高水位线调整情况会发生很多次。通过垃圾回收器的日志可以观察到Full GC多次调用。为了避免频繁地GC,建议将MaxMetaspaceSize设置为一个相对较高的值
方法区结构

方法区中储存已被虚拟机加载的类型信息常量静态变量即时编译器编译后的代码缓存

类型信息

  • 对每个加载的类型(类class,接口interface,枚举enum,注解annotation),jvm必须在方法去中存储以下类型信息
    1. 这个类型的完整有效名称(全名=包名.类名)
    2. 这个类型直接父类的完整有效名(对于interface或是java.lang.Object,都没有父类)
    3. 这个类型的修饰符(public,abstract,final的某个子集)
    4. 这个类型直接接口的一个有序列表

域信息

  • jvm必须在方法区中保存类型的所有域的相关信息以及域的声明顺序
  • 域的相关信息包括:域名称,域类型,域修饰符(public,private,protected,static,final,volatile,transient的某个子集)

方法信息

  • jvm必须保存所有方法的以下信息,同域信息一样包括声明顺序

    • 方法名称

      方法的返回类型(或void)

      方法参数的数量和类型(按顺序)

      方法的修饰符(public,private,protected,static,final,synchronized的一个子集)

      方法的字节码,操作数栈,局部变量表及大小(abstract和native方法除外)

      异常表(abstract和native方法除外)

      • 每个异常处理的开始位置,结束位置,代码处理在程序计数器中的偏移地址,被捕获的异常类的常量池索引

常量池

一个有效的字节码文件中除了包含类的版本信息,字段,方法以及接口等描述信息外,还包含一项信息那就是常量池表(Constant Pool Table),包含各种字面量和对类型,域和方法的符号引用

一个java源文件中的类,接口,编译之后产生一个字节码文件。而java中的字节码需要数据支持,通常这种数据会很大以至于不能直接存到字节码里,将这些数据存储到常量池,这个字节码包含了指向常量池的引用。在动态链接的时候会用到运行时常量池

常量池内储存的数据类型包括

  • 数量值
  • 字符串值
  • 类引用
  • 字段引用
  • 方法引用

常量池可以看作是一张表,虚拟机指令根据这张常量表找到要执行的类名,方法名,参数类型,字面量等类型

运行时常量池

运行时常量池(Runtime Constant Pool)是方法区的一部分

常量池(Constant Pool Table)是Class文件的一部分,用于存放编译器生成的各种字面量与符号引用,这部分内容将在类加载后放到方法区的运行时常量池中

运行时常量池,在加载类和接口到虚拟机后,就会创建对应的运行时常量池

jvm为每个已加载的类型(类或接口)都维护一个常量池。池中的数据项像数组项一样,是通过索引访问的

运行时常量池中包含多种不同的常量,包括编译器就已经明确的数值字面量,也包括到运行期解析后才能获得的方法或者字段引用,此时不再是常量池中的符号地址了,这里换成了直接引用

  • 运行时常量池,相对于Class文件常量池的另一个重要特性是具备动态性

运行时常量池类似于传统编程语言中的符号表(symbol table),但是它所包含的数据却比符号表要更加丰富一些

当创建类或接口的运行时常量池时,如果构造运行时常量池所需的内存空间超过了方法区所能提供的最大值,就会抛出OOM异常

方法区的演进细节

只有HotSpot才有永久代,Bea JRockit,IBM J9等来说,是不存在永久代的概念的。原则上如何实现方法区属于虚拟机实现细节,不受《java虚拟机规范》管束,并不要求统一

HotSpot中方法区的变化

jdk1.6及以前有永久代,静态变量存放在永久代上
jdk7有永久代,但已经逐步"去永久代",字符串常量池,静态变量移除,保存在堆中
jdk8及以后无永久代,类型信息,字段,方法,常量保存在本地内存的元空间,但字符串常量池,静态变量仍在堆中
  • jdk6及以前
  • jdk7
  • jdk8及以后
永久代被元空间替换的原因

随着jdk8的到来,HotSpot VM中再也见不到永久代了,但是这并不意味着类的元数据信息也消失了。这些数据被移到了一个与堆不相连的本地内存区域,这个区域叫做元空间

由于类的元数据分配在本地内存中,元空间的最大可分配空间就是系统可用内存空间

将永久代替换替换成元空间主要有一下两个原因

  1. 为永久代设置空间大小市很难确定的

    • 在某些场景下,如果动态加载类过多,容易产生Perm区的OOM。比如某个实际Web工程中,因为功能点比较多,在运行过程中,要不断动态加载很多类,经常出现致命错误。而元空间和永久代之间的区别在于:元空间并不在虚拟机中,而是使用本地内存。因此,默认情况下,元空间的大小仅受本地内存限制

  2. 对永久代进行调优是很困难的

jdk7中将StringTable放到了堆空间中。因为永久代的回收效率很低,在full gc的时候才会触发。而full gc是老年代的空间不足,永久代不足时才会触发。这就导致StringTable回收效率不高,而我们开发中会有大量的字符串被创建,回收效率低,导致永久代内存不足。放到堆里,就能及时回收内存

StringTable为什么要调整

jdk7中将StringTable放到了堆空间中。因为永久代的回收效率很低,在full gc的时候才会触发。而full gc是老年代的空间不足,永久代不足时才会触发。这就导致StringTable回收效率不高。而我们开发中会有大量的字符串被创建,回收效率低,导致永久代内存不足,放到堆里,能及时回收内存

在各个版本中对象的存放位置

从《Java虚拟机规范》所定义的概念模型来看,所有的Class相关的信息都应该存放在方法中,但方法区该如何实现,《Java虚拟机规范》并未做出规定,这就成就了一件允许不同虚拟机自己灵活把握的事情。jdk7以及以后版本的HotSpot虚拟机选择把静态变量与类型在java语言一端的映射Class对象存放在一起,存储于java堆之中

// 所有的Object对象数据都存放在堆中
// 静态变量staticObj存放在元空间中
static Object staticObj = new Object();
// 成员变量obj存放在堆中
Object obj = new Object();
void test() {
    // 局部变量obj存放在栈的局部变量表中
    Object obj = new Object();
}
方法区回收

有些人认为方法区(如HotSpot虚拟机中的元空间或者永久代)是没有垃圾回收行为的,其实不然。《Java虚拟机规范》对方法的非常宽松的,提到可以不要求虚拟机在方法区中实现垃圾收集。事实上也确实有未实现或未能完整实现方法区卸载的收集器存在

一般来说这个区域的回收效果比较难令人满意,尤其是类型的卸载,条件相当苛刻。但是这个部分区域的回收有时又确实是必要的

方法区内常量池之中主要存放的两大类常量:字面量和符号引用

字面量比较接近Java语言层次的常量概念,如文本字符串,被声明为final的常量值等。而符号引用则属于编译原理方面的概念,包括以下三类常量

  1. 类和接口的全限定类名
  2. 字段的名称和描述符
  3. 方法的名称和描述符

HotSpot虚拟机常量池的回收策略是很明确的,只要常量池中的常量没有被任何地方引用,就可以被回收

回收废弃常量和回收Java堆中的对象非常类似

判定一个常量是否"废弃"还是相对简单,而要判定一个类型是否属于"不在被使用的类"就比较苛刻了。需要同时满足下面三个条件

  1. 该类所有的实例都已经被回收,也就是Java堆中不存在该类及其任何派生子类的实例
  2. 加载该类的类加载器已经被回收,这个条件除非是经过精心设计的可替换类加载器的场景,否则很难达成
  3. 该类对应的java.lang.Class对象没有在任何地方被引用,无法在任何地方通过反射访问该类的方法

在大量使用反射,动态代理,CGLib等字节码框架,动态生成JSP以及OSGi这类频繁自定义类加载器的场景中,通常都需要Java虚拟机具备类型卸载的能力,以保证不会对方法区造成过大的内存压力

对象实例化
创建对象的方式
  1. new
  2. Class的newInstance():发射的方式,只能调用空参的构造器,权限必须是public
  3. Constructor的newInstance():反射的方式,可以调用空参,带参的构造器,权限没有要求
  4. 使用clone():不调用任何构造器,当前类需要实现Cloneable接口,实现clone()
  5. 使用反序列化:从文件中,网络中获取一个对象的二进制流
创建对象的步骤
  1. 判断对象对应的类是否加载,链接,初始化
  2. 为对象分配内存
    • 如果内存规整:指针碰撞
    • 如果内存不规整:虚拟机需要维护一个列表来标记哪些空间是可用的
  3. 处理并发安全问题
    • 采用CAS失败重试,区域加锁保证更新的原子性
    • 每个线程预先分配一块TLAB
  4. 初始化分配到的空间
    • 所有属性设置默认值,保证对象实例字段在不赋值时可以直接使用
  5. 设置对象的对象头
  6. 执行init方法执行初始化
内存布局
对象头(Header)

主要包含两部分

  • 运行时元数据(Mark Word)
    • 哈希值(HashCode)
    • GC分代年龄
    • 锁状态标志
    • 线程持有的锁
    • 偏向线程ID
    • 偏向时间戳
  • 类型指针:指向类元数据InstanceClass,确定该对象所属的类型

说明:如果是数组,还需要记录数组的长度

实例数据(Instance Data)

它是对象真正存储的有效信息,包括程序代码中定义的各种类型的字段(包括从父类继承下来的和本身拥有的字段)

规则

  • 相同宽度的字段总是被分配在一起
  • 父类中定义的变量会出现在子类之前
  • 如果CompactFields参数为true(默认为false):子类的窄变量可能插入到父类变量的空隙
对齐填充

不是必须的,也没有特别含义,仅仅起到占位符的作用

image-20210804195226167
对象访问定位

创建对象的目的是为了使用它

JVM是如何通过栈帧中的对象引用访问到其内部的对象实例?定位,通过栈上reference访问

对象访问方式主要有两种

  • 句柄访问
    • image-20210804200415751
  • 直接指针(HotSpot采用)
    • image-20210804200508771
直接内存概述

直接内存不是虚拟机运行时数据区的一部分,也不是《Java虚拟机规范》中定义的内存区域

直接内存是在Java堆外的,直接向系统申请的内存区间

直接内存来源于NIO,通过存在堆中的DirectByteBuffer操作Native内存

通常,访问直接内存的速度会优于Java堆。即读写性能高

  • 因此出于性能考虑,读写频繁的场合可能会考虑使用直接内存
  • Java的NIO库允许Java程序使用直接内存,用于数据缓冲区
非直接缓冲区

读写文件,需要与磁盘交互,需要由用户态切换到内核态

image-20210804203751380
直接缓冲区

操作系统划出的直接缓存区可以被直接访问,NIO适合对大文件的读写操作

image-20210804204458456

使用直接内存也可能导致OOM异常

由于直接内存在Java堆外,因此它的大小不会受限于-Xmx指定的最大堆大小,但是系统内存是有限的,Java堆和直接内存的总和依然受限于操作系统能给出的最大内存

使用直接内存的缺点

  • 分配回收成本较高
  • 不受JVM内存回收管理

直接内存大小可以通过MaxDirectMemorySize设置

如果不指定,默认与堆的最大值-Xmx参数值一致

执行引擎概述

执行引擎是Java虚拟机核心的组成部分之一

虚拟机是一个相对于物理机的概念。这两种机器都有代码执行能力,其区别是物理机的执行引擎是直接建立在处理器,缓存,指令集和操作系统层面上的,而虚拟机的执行引擎则是由软件自行实现的,因此可以不受物理条件制约地定制指令集与执行引擎的结构体系,能够执行那些不被硬件支持的指令集格式

jvm的主要任务是负责装载字节码到其内部,但字节码并不能够直接运行在操作系统之上,因为字节码指令并非等价于本地机器指令,它内部包含的仅仅只是一些能够被jvm所识别的字节码指令,符号表,以及其他辅助信息

执行引擎的任务就是将字节码指令解释/编译为对应平台上的本地机器指令,简单地说,jvm中的执行引擎充当了将高级语言翻译为机器语言的译者

Java代码编译和执行的过程
image-20210805225300177

大部分程序代码转换成物理机的目标代码或虚拟机能够执行的指令集之前,都需要经过上图中的各个步骤

解释器和JIT编译器

  • 解释器:当java虚拟机启动时会根据预定义的规范对字节码采用逐行解释的方式执行,将每条字节码文件中的内容翻译为对应平台的本地机器指令执行
  • JIT(Just In Time Compiler)编译器:就是虚拟机器将源代码直接编译成和本地机器平台相关的机器语言

Java是一门半编译半解释型语言

jdk1.0时代,将Java语言定位为"解释执行"还是比较准确的,再后来,Java也发展出可以直接生成本地代码的编译器

现在Jvm在执行Java代码的时候,通常都会将解释执行与编译器执行二者结合起来进行

HotSpot JVM执行过程

当虚拟机启动的时候,解释器可以首先发挥作用,而不必等待即时编译器全部编译完成再执行,这样可以省去许多不必要的编译时间。并且随着程序运行时间的推移,即使编译器逐渐发挥作用,根据热点探测功能,将有价值的字节码编译为本地机器指令,以换取更高的程序执行效率

热点代码及探测方式

是否需要启动JIT编译器将字节码编译为对应平台的本地机器指令,则需要根据代码被调用执行的频率而定。关于那些需要被编译为本地代码的字节码,也被称之为"热点代码",JIT在运行时会针对那些频繁被调用的"热点代码"做出深度优化。将其直接编译为对应平台的本地机器指令,一次提升Java程序的执行性能

一个被多次调用的方法,或者是一个方法体内部循环次数比较多的循环体都可以被称之为"热点代码",因此都可以通过JIT编译器编译为本地机器指令。由于这种编译方式发生在方法的执行过程中,因此也被称之为栈上替换,或简称为OSR(On Stack Replacement)编译

目前HotSpot Vm所采用的热点探测方式时集与计数器的热点探测

采用基于计数器的热点探测,HotSpot将会为每一个方法都建立2个不同类型的计数器,分别为方法调用计数器(Invacation Countor)和回边计数器(Back Edge Counter)

  • 方法调用计数器用于统计方法的调用次数
  • 回边计数器则用于统计循环体执行的循环次数
image-20210806215147586

方法调用计数器

这个计数器就用于统计方法被调用的次数,它的默认阈值在Client模式下是1500次,在Server模式下是10000次,超过这个阈值,就会触发JIT编译

这个阈值可以通过虚拟机参数-XX:CompileThreShold来人为设定

热度衰减

如果不做任何设置,方法调用计数器统计的并不是方法被调用的绝对次数,而是一个相对的执行频率,即一段时间之内方法被调用的次数。当超过一定的时间限度,如果方法的调用次数仍然不足以让它提交给即时编译器编译,那这个方法的调用计数器就会被减少一半,这个过程被称之为调用计数器热度的衰减,而这段时间就为此方法的半衰周期

进行热度衰减的动作是在虚拟机进行垃圾收集时顺便进行的,可以使用虚拟机参数-XX:-UseCounterDecay来关闭热度衰减

另外,可以使用-XX:CounterHalfLifeTime参数设置半衰周期的时间,单位是秒

回边计数器

他的作用是统计一个方法中循环体代码次数,在字节码中遇到控制流向后跳转的指令称之为"回边"(Back Edge)。显然,建立回边计数器统计的目的就是为了触发OSR编译

image-20210806215051107
hotspot设置程序执行方式

缺省的情况下,hotspot是采用解释器与编译器并存的架构。可以通过命令显式地为虚拟机指定执行方式

  • -Xint:完成采用解释器模式执行程序
  • -Xcomp:完全采用即使编译器模式执行程序。如果即时编译器出现问题,解释器会介入执行
  • -Xmixed:采用解释器+即时编译器的混合模式共同执行程序

Hotspot中JIT分类

在Hotspot中内嵌有两个JIT编译器,分别为Client Compiler和Server Compiler,但大多数情况下我们简称为C1编译器和C2编译器。开发人员可以通过命令指定Java虚拟机在运行时到底使用哪一种即时编译器

  • -client:指定Java虚拟机运行在Client模式下,并使用C1编译器
    • C1编译器会对字节码进行简单和可靠的优化,耗时短。以达到更快的编译速度
  • -server:指定Java虚拟机运行在Server模式下,并使用C2编译器
    • C2进行耗时较长的优化,以及激进优化。但优化的代码执行效率更高

C2编译器的优化策略

  • 标量替换:用标量值代替聚合对象的属性值
  • 栈上分配:对于未逃逸的对象分配对象在栈而不是堆
  • 同步消除:清除同步操作,通常指synchronized

分层编译策略

程序解释执行(不开启性能监控)可以触发C1编译,将字节码编译成机器码,可以进行简单优化,也可加上性能监控,C2编译器会根据性能监控信息进行激进优化

在java7之后,一旦开发人员在程序中显式指定命令-server时,默认将会开启分层编译策略,由C1编译器和C2编译器相互协作共同来执行编译任务

一般来讲,JIT编译出来的机器码性能比解释器高

C2编译器启动时长比C1编译器慢,系统稳定后,C2编译器执行速度远远快于C1编译器

AOT编译器

jdk9引入了AOT编译器(静态提前编译器,Ahead of Time Compiler)

Java9引入了实验性AOT编译工具jaotc,它借助了Graal编译器,将所输入的Java类文件转换成机器码,并存放到生成的动态共享库中

所谓AOT编译,是与即使编译相对的一个概念。即时编译指的是在程序运行过程中,将字节码转换成可在硬件上直接运行的机器码,并部署至托管环境中的过程。而AOT编译指的是在程序运行之前,便将字节码转换为机器码的过程

AOT最大的好处在于Java虚拟机加载已经编译好的二进制库,可以直接执行。不必等待即时编译器的预热;缺点是破坏了java"一次编译,到处运行"的理念,降低了Java链接过程中的动态性能


StringTable
String的基本特性
  • String字符串使用一对""引起来表示
    • String str = "wuhunyu";字面量的定义方式
    • String str = new String("wuhunyu");
  • String被声明为final
    • public final class String implements java.io.Serializable, Comparable<String>, CharSequence
  • String实现了Serializable接口,表示字符串是支持序列化的;实现了Comparable接口,表示String可以比较大小
  • String在jdk8以及以前内部定义了final char[] value用于存储字符串数据;在jdk9时改为了byte[]

通过字面量的方式(区别于new)给一个字符串复赋值,此时的字符串声明在字符串常量池中

字符串常量池中不会存储相同内容的字符串

String的String Pool是一个固定大小的Hashtable,默认值大小长度是1009。如果放进String Pool的String非常多,就会造成Hash冲突严重,从而导致链表会很长,而链表长了以后直接回造成的影响就是当调用String.intern时性能会大幅下降

使用-XX:StringTableSize可设置StringTable的长度

在jdk6中StringTable是固定的,就是1009的长度,所以如果产量池中的字符串过多就会导致效率下降很快。StringTableSize设置没有要求

在jdk7中StringTable的长度默认值是60013,StringTableSize设置没有要求

在jdk8中StringTable的长度默认值是60013,1009是可设置的最小值

String的内存分配

在Java语言中有8种基本数据类型和以中国比较特殊的类型String。这些类型为了使它们在运行时速度更快,更节省内存,都提供了一种常量池的概念

常量池就类似一个Java系统级别提供的一个缓存。8种基本数据类型的常量池都是系统协调的,String类型的常量池比较特殊。它的主要使用方法有两种

  • 直接使用双引号生命出来的String对象会直接存储在常量池中
  • 如果不是用双引号声明的String对象,可以使用String提供的intern()方法

Java语言规范中要求完全相同的字符串字面量,应该包含同样的Unicode字符序列(包含同一份码点序列的常量),并且必须是指向同一个String类实例

字符串拼接操作

常量与常量的拼接结果在常量池中,原理是编译器优化

常量池中不会存在相同内容的常量

只要其中有一个是变量,结果就在堆中。变量拼接的原理是StringBuilder

如果拼接的结果调用intern()方法,则主动将常量池中还没有的字符串对象放入池中,并返回此对象的地址

intern()

判断字符串常量池中是否存在指定的字符串,如果存在,则返回常量池中该字符串的地址;如果常量池不存在该字符串,则在常量池中加载一份字符串,然后返回新创建的字符串的地址

如果不是使用双引号声明的String对象,可以使用String提供的intern方法将堆中的字符串放入字符串常量池中

字符串常量池确保字符串在内存中只有一份拷贝,这个可以节约内存空间,加快字符串操作任务的执行速度

注意:

  1. 使用new String("str")的方式创建字符串,字符串’str’会被存放到字符串常量池中
  2. 使用+拼接字符串,底层是创建了一个StringBuilder对象,通过append方法追加字符串,最后调用StringBuilder类的toString()返回字符串,但调用toString()方法并不会将调用方的字符串存放到常量池中
  3. String str = new String("str1") + new String("str2");语句一共创建了5个对象
    1. StringBuilder
    2. new String("str1")
    3. “str1”
    4. new String("str2")
    5. “str2”
    6. str变量

jdk1.6中

  • 如果字符串常量池中有该字符串,则并不会放入。返回已有的常量池中对象的地址
  • 如果字符串常量值中没有,会把此对象赋值一份,放入常量池中,并返回常量池中的对象地址

jdk1.7中

  • 如果字符串常量池中有该字符串,则并不会放入。返回已有的常量池中的对象的地址
  • 如果没有,则会把对象的引用地址复制一份,放到常量池中,并返回常量池中的引用地址
G1的String去重操作

许多大规模的Java应用瓶颈在于内存,测试表明,在这些类型的应用里面,Java堆中存活的数据集合差不多25%是String对象。更进一步,这里面差不多一半String对象是重复的,堆上存在重复的String对象必然是一种浪费,G1垃圾收集器实现了自动持续对重复的String对象及逆行去重,这样就能避免浪费内存

实现

  • 当垃圾收集器工作的时候,会访问堆上存活的对象。对每一个访问的对象都会检查是否是候选的,要去重的String对象
  • 若是,把这个对象的一个引用插入到队列中等待后续的处理。一个去重的线程在后台运行,处理这个队列。处理队列的一个元素意味着从队列删除这个元素,然后尝试去重他引用的String对象
  • 使用一个HashTable来记录所有的被String对象使用的不重复的char数组。当去重的时候,会查这个HashTable,来看堆上是否已经存在一个一模一样一样的char数组
  • 如果存在,String对象会被调整引用那个数组,释放对原来的数组的引用,最终会被垃圾收集器回收
  • 如果查找失败,char数组会被插入到HashTable中,这样以后就可以共享这个数组
垃圾回收

什么是垃圾
垃圾是指在运行程序中没有任何指针指向的对象,这个对象就是需要被回收的垃圾

如果不及时对内存中的垃圾进行清理,那么这个垃圾对象所占的内存空间会一直保留到引用程序结束,被保留的空间无法被其他对象使用。甚至可能导致内存溢出

为什么需要GC

对于高级语言来说,一个基本认知是如果不进行垃圾回收,内存迟早都会被消耗完,因为不断地分配内存空间而不进行回收

除了释放没用的对象,垃圾回收也可以清楚内存里的记录碎片。碎片整理将所占用的堆内存一道堆的一端,以便jvm将整理出的内存分配给新的对象

随着应用程序所应付的业务越来越庞大,用户越来越多,没有GC就不能保证应用程序的正常进行,而经常造成STW的GC有跟不上实际的需求,所以才会不断地尝试对GC进行优化

自动GC优点自动GC缺点
无需开发人员手动共参与内存的分配与回收,降低内存泄漏和内存溢出的风险弱化开发者在程序出现内存溢出时定位问题和解决问题的能力
不需要管理内存分配与释放的工作,开发者可以更加专注于业务的开发当垃圾收集成为系统达到更高并发量的瓶颈时,需要实施必要的监控和调节

垃圾回收器可以对年轻代回收,也可以对老年代进行回收,甚至是全堆和方法区的回收。其中Java堆是垃圾收集器的工作重点

频繁收集Young区,较少收集Old区,基本不动Perm区(元空间)

垃圾标记阶段的算法

垃圾标记阶段:对象存活判断

  • 在堆中存放着几乎所有的Java对象实例,在GC执行垃圾回收之前,首先需要区分出内存中共那些是存活对象,那些是已经死亡的对象。只有被标记为已经死亡的对象,GC才会在执行垃圾回收时,释放掉其所占用的内存空间,因此这个过程我们可以称为垃圾标记阶段

  • 如果一个对象已经不再被任何存活对象继续引用时,就可宣判为已经死亡

  • 判断对象存活一般有两种方式,引用计数算法可达性分析算法

引用计数算法

引用计数算法比较简单,对每个对象保存一个整型的引用计数器属性,用于记录对象被引用的情况

对于一个对象A,只要有任何一个对象引用了A,则A的引用计数器就加1;当引用失效时,引用计数器就减1.只要对象A的引用计数器的值为0,即表示对象A不可能再被使用,可进行回收

优点:

  • 实现简单,垃圾对象便于辨识;判定效果高,回收没有延迟性

缺点:

  • 它需要单独的字段存储计数器,这样的作法增加了存储空间的开销
  • 每次赋值都需要更新计数器,伴随着加法和减法的操作,这增加了时间开销
  • 引用计数器有一个严重的问题,即无法处理循环引用的情况。这是一个致命的缺陷,导致在Java的垃圾回收器没有使用这类算法

循环引用

image-20210815100622811

Java没有选择引用计数算法,是因为其无法处理循环引用关系

虽然Java没有选择引用计数算法,但却是很多语言的资源回收选择,如Python,它更是同事支持引用计数和垃圾收集机制

Python如何解决循环引用

  • 手动接触:就是在合适的时机,解除引用关系
  • 使用弱引用weakref,weakref是Python提供的标准库,旨在解决循环引用

具体哪种最优是要场景,业界有大规模实践中仅保留引用计数机制,以提高吞吐量的尝试

可达性分析(或根搜索算法,追踪性垃圾收集)

相对于引用计数而言,可达性分析算法不仅同样具备实现简单和执行高效等特点,更重要的是该算法可以有效地解决在应用计数算法中循环引用的问题,防止内存泄漏的发生

相较于引用计数算法,这里的可达性分析就是Java,C#选择的。这种类型的垃圾收集通常也叫做追踪性垃圾收集

GC Roots:可达性算法中的根集合,是一组必须活跃的引用

image-20210815193752233

基本思路

  • 可达性分析算法是对根对象集合(GC Roots)为起始点,按照从上至下的方式搜索被根对象集合所连接的目标对象是否可达
  • 使用可达性分析算法后,内存中的存活对象都会被根对象集合直接或间接连接着,搜索所走过的路径称为引用链
  • 如果目标对象没有任何引用链相连,则是不可达,就意味着该对象已经死亡,可以标记为垃圾对象
  • 在可达性分析算法中,只有能够被根对象集合直接或间接连接的对象才是存活对象

在Java语言中,GC Roots包括以下几类元素

  • 虚拟机栈中引用的元素

    • 比如:各个线程被调用的方法中使用到的参数,局部变量等
  • 本地方法栈内JNI(通常说的本地方法)引用对象

  • 方法区中类静态属性引用的对象

    • 比如:Java类的引用类型静态变量
  • 方法区中常量引用的对象

    • 比如:字符串常量池(String Table)里的引用
  • 所有被同步锁sync持有的对象

  • Java虚拟机内部的引用

    • 基本数据类型对应的Class对象,一些常驻的异常对象(如NullPointerException,OutOfMemory),系统类加载器
  • 反映Java虚拟机内部情况的JMXBean,JVMTI中注册的回调,本地代码缓存等

  • 除了这些固定的GC Roots集合以外,根据用户所选用的垃圾收集器以及但前回收的内存区域不同,还可以有其他对象"临时性"地加入,共同构成完成GC Roots集合。比如:分代收集和局部回收(Partial GC)

    • 如果只针对Java堆中的某一块区域进行垃圾回收(比如:典型的只针对新生代),必须考虑到内存区域是虚拟机自己的实现细节,更不是孤立封闭的,这个区域的对象完全有可能被其他区域的对象所引用,这时候就需要一并将关联的区域对象也加入GC Roots集合中去考虑,才能保证可达性分析的准确性

小技巧

  • 由于Root采用栈方式存放变量和指针,所以如果一个指针他保存了堆内存里面的对象,但是自己又不存放在堆内存里面,那它就是一个Root

注意:

  • 如果要使用可达性分析算法来判断内存是否可回收,那么分析工作必须在一个能保障一致性的快照中进行。这点不满足的话,分析结果的准确性就无法保证
  • 这点也是导致GC进行时必须"Stop The World"的一个重要原因
    • 即使是号称不会发生停顿的CMS收集器中,枚举根节点时也是必须要停顿的

finalization机制

  • Java语言提供了对象终止机制来允许开发人员提供对象被销毁之前的自定义处理逻辑
  • 当垃圾收集器被发现没有引用指向一个对象,即垃圾回收此对象之前,总会先调用这个对象的finalize()方法
  • finalize()方法允许在子类中被重写,用于在对象被回收时进行资源释放。通常在这个方法中进行一些资产释放和清理的工作,比如关闭文件,套接字和数据库连接等
  • 永远不要主动调用某个对象的finalize()方法,应该交给垃圾回收机制调用
    • 在finalize()时可能会导致对象复活
    • finalize()方法执行时间是没有保证的,它完全由GC线程决定,极端情况下,若不发生GC,则finalize()方法将没有执行机会
    • 一个糟糕的 finalize()会严重影响GC性能
  • 从功能上来说,finalize()方法与C++中的写够函数比较相似,但是Java采用的时基于垃圾回收器的自动内存管理机制,所以finalize()方法在本质上不同于C++中的析构函数

由于finalize()方法的存在,虚拟机中的对象一般处于三种可能的状态

如果从所有的根节点都无法访问某个对象,说明对象已经不再使用了。一般来说,此对象需要被回收。但事实上,也并非是"非死不可"的,这时候他们暂时处于"缓刑"阶段。一个无法触及的对象有可能在某一个条件下"复活"自己,如果这样,那么对它的回收就是不合理的,为此,定义虚拟机中的对象可能的三种状态

  1. 可触及的:从根节点开始,可以到达这个对象
  2. 可复活的:对象的所有引用都被释放,但是对象有可能在finalize()中复活
  3. 不可触及的:对象的finalize()被调用,并且没有复活,那么就会进入不可触及状态。不可触及的对象不可能被复活,因为finalize()只会被调用一次

以上3种状态中,是由于finalize()方法的存在,进行的区分。只有在对象不可触及时才可能被回收

具体过程:

判定一个对象objA是否可回收,至少要经历两次标记的过程

  1. 如果对象objA到GC Roots没有引用链,则进行第一次标记
  2. 则进行筛选,判断此对象是否有必要执行finalize()方法
    1. 如果对象objA没有重写finalize()方法,或者finalize()已经被被调用过,则虚拟机视为"没有必要执行",objA被判定为不可触及的
    2. 如果对象objA重写了finalize()方法,且还未被执行过,那么objA会被插入到F-Queue队列中,由一个虚拟机自动创建的,低优先级的Finalizer线程出发其finlize()方法执行
    3. finalize()方法是对象逃脱死亡的最后机会,稍后GC会对F-Queue队列中的对象进行第二次标记。如果objA在finalize()方法中与引用链上的任何一个对象建立了联系,那么在第二次标记时,objA对象会被移除"即将回收"集合中。之后,对象会再次出现没有引用存在的情况。在这种情况下,finalize()方法不会被再次调用,对象会变成不可触及的状态,也就是说,一个对象的finalize()方法只会被调用一次
查看jvm内存使用工具

MAT

MAT是Memory Analyzer的简称,它是一款功能强大的Java堆内存分析器。用于查找内存泄漏以及查看内存消耗情况

MAT是基于Eclipse开发的,是一款免费的性能分析工具

垃圾清除阶段

当成功区分出内存中存活对象和死亡对象后,GC接下来的任务就是执行垃圾回收,释放掉无用对象所占用的内存空间,以便有足够的可用空间内存为新对象分配

目前在JVM中比较常见的三种垃圾收集算法是标记-清除算法(Mark-Sweep)复制算法(Copying)标记-压缩算法(Mark-Compact)

标记清除算法

当堆中的有效内存空间被耗尽的时候,就会停止整个程序(也被称为stop the world),然后进行两项工作,第一项是标记,第二项是清除

  • 标记:Collector从引用根节点开始遍历,标记所有被引用的对象。一般是在对象的Header中记录为可达对象
  • 清除:Collector对堆内存从头到尾进行线性的遍历,如果发现某个对象在其Header中没有标记为可达对象,则将其回收
image-20210816215142813

缺点:

  • 效率不高
  • 在进行GC时,需要停止整个应用程序,导致用户体验差
  • 这种方式维护出来的空闲内存是不连续的,产生内存碎片。需要维护一个空闲列表

注意:

  • 这里所谓的清除并不是真的置空,而是需要清空的对象地址保存在空闲的地址列表中。下次有新的对象需要加载时,判断垃圾的位置空间是否足够,如果够就存放

复制算法

将活着的内存空间分为两块,每次只使用其中一块,在垃圾回收时将正在使用的内存中的存活对象赋值到未被使用的内存块中,之后清除正在使用的内存块中的所有对象,交换两个内存的角色,最后完成垃圾回收

image-20210816220112450

优点:

  • 没有标记和清除过程,实现简单,运行高效
  • 复制过去以后保证空间的连续性,不会出现"碎片"问题

缺点:

  • 此算法的缺点也是很明显的,就是需要两倍的内存空间
  • 对于G1这种拆分成大量region的GC,复制而不是移动,意味着GC需要维护region之间对象引用关系,不管是内存占用或者是时间开销都不小

注意:

  • 如果系统种的垃圾对象很多,复制算法不会很理想。因为复制算法需要复制的存活对象数量并不会太大,或者说非常低才行

引用场景:

  • 在新生代中,对常规应用的垃圾回收,一次通常可以回收70%~99%的内存空间。回收性价比很高,所以现在的商业虚拟机都是这种收集算法回收新生代

标记-压缩算法

复制算法的高效性时间里在存活对象少,垃圾对象多的前提下的。这种情况在新生代经常发生,但是在老年代,更常见的情况是大部分对象都是存活对象。如果依然使用复制算法,由于存活对象较多,复制的成本也将很高。因此,基于老年代垃圾回收的特性,需要使用其他算法

  • 标记:第一阶段和标记-清除算法一样,从根节点开始标记所有被引用的对象
  • 压缩:第二阶段将所有存活对象压缩到内存的一端,按顺序排放。之后在清理边界外所有的空间
image-20210816222113768

标记-压缩算法的最终效果等同于标记-清除算法执行完成后,在进行一次内存碎片整理,因此,也可以把它称为标记-清除-压缩(Mark-Sweep-Compact)算法

二者的本质差异在于标记-清除算法是一种非移动式的回收算法,标记压缩是移动式的。是否移动回收后的存活对象是一项优缺点并存的风险决策

标记的存活对象将会被整理,按照内存地址依次排列,而未被标记的内存会被清理掉。如此一来,当我们需要给新对象分配内存时,JVM只需要一个内存的起始地址即可,这比维护一个空闲列表夏然少了许多开销

指针碰撞(Bump the Pointer)

如果内存空间以规整和有序的方式分布,即已用和未用的内存都各自一边,彼此之间维系着一个记录下一次分配起始点的标记指针,当为新对象分配内存时,只要通过修改指针的偏移量将新的对象分配在第一个空闲的内存位置上,这种分配方式就叫指针碰撞

优点:

  • 消除了标记-清除算法当中,内存区域分散的缺点,我们需要给新对象分配内存时,JVM只需要持有一个内存的起始地址即可
  • 消除了复制算法当中,内存减半的高额代价

缺点:

  • 从效率上来说,标记-整理算法要低于复制算法
  • 移动对象的同时,如果对象被其他对象引用,则还需要调整引用地址
  • 移动过程中,需要全程暂停用户应用程序,即STW

三种算法对比

Mark-SweepMark-CompactCopying
速度中等最慢最快
空间开销少(但会堆积碎片)少(不堆积碎片)通常需要活对象的2倍大小(不堆积碎片)
移动对象

效率上来说,复制算法最快,但是却浪费了太多内存

而为了尽量兼顾上面提到的三个指标,标记-整理算法相对来说平滑一些,但是效率上不尽如人意,它比复制算法多了一个标记的阶段,比标记-清除多了一个整理内存的阶段

分代收集算法

前面的所有算法都无法完全替代其他算法,但他们都具有各自独特的优势和特点

分代收集算法,是基于这样一个事实:不同的对象的声明周期是不一样的。因此,不同生命周期的对象可以采取不同的收集方式,以便提高回收效率。一般是把Java堆分为新生代和老年代,这样就可以根据各个年代的特点使用不同的回收算法,以提高垃圾回收的效率

目前几乎所有的GC都是采用分代收集算法执行垃圾回收的

在HotSpot中,基于分代的概念,GC所使用的内存回收算法必须结合年轻代和老年代各自的特点

年轻代(Young Gen)

年轻代的特点:区域相对老年代较小,对象生命周期短,存活率低,回收频繁

这种情况复制算法的回收整理,速度是最快的。复制算法的效率之和当前对象大小有关,因此很适合用于年轻代的回收。而复制算法内存利用率不高的问题,通过hotspot中的两个survivor的设计得到缓解

老年代(Tenured Gen)

老年代特点:区域较大,对象生命周期长,存活率高,回收不及年轻代频繁

这种情况存在大量的存活率高的对象,复制算法明显变得不合适。一般是由标记-清除或者是百年祭-清除与标记-整理的混合实现

  • Mark阶段的开销与存活对象的数量成正比
  • Sweep阶段的开销与所管理区域的大小成正比关系
  • Compact阶段的开销与存活对象的数据成正比

分代的思想被吸纳有的虚拟机广泛使用。几乎所有的垃圾收集器都会区分新生代和老年代

增量收集算法

之前的算法在垃圾回收过程中,应用软件将处于一种STW的状态。在STW状态下,应用程序所有的线程都会挂起,在那听一切正常的工作,等待垃圾回收的完成。如果垃圾回收时间过长,应用程序会被挂起很久,严重影响用户体验或者系统的稳定性。为了解决这个问题,即对实时垃圾收集算法的研究直接导致了增量收集算法的诞生

基本思想

如果一次性将所有的垃圾进行处理,需要造成系统长时间的停顿,那么就可以让垃圾收集想吃那个和应用程序线程交替执行,每次,垃圾收集线程只收集一小片区域的内存空间,接着切换到应用程序线程。一次反复,直到垃圾收集完成

总的来说,增量收集算法的基础认识传统的标记-清理算法。增量收集算法通过对线程间冲突的妥善处理,允许垃圾收集线程以分阶段的方式完成标记,清理或复制工作

缺点

使用这种方式,由于在垃圾回收过程中,间断性地执行了应用程序代码,所以能够减少系统的停顿时间。但是因为线程切换和上下文转换的消耗,会使得回收的总体成本上升,造成系统吞吐量的下降

分区算法

一般来说,在相同的条件下,堆空间越大,一次GC时所需要的时间就越长,有关GC产生的停顿也越长。为了更好地控制GC产生的停顿时间,将一块大的内存区域分割成多个小块,根据目标的停顿时间,每次合理地回收若干个小区间,而不是整个堆空间,从而减少一个GC所产生的停顿

分代算法将按照对象的生命周期长短划分成两个部分,分区算法将整个堆空间划分成连续的不同小区间region

每一个小区间都独立使用,独立回收。这种算法的好处就是可以控制一次回收多少个小区间

image-20210819203921282
System.gc()

在默认情况下,通过System.gc()或者Runtime.getRuntime().gc()的调用,会显示触发Full GC,同时对老年代和新生代进行回收,尝试释放被丢弃对象占用的内存

然而System.gc()调用附带一个免责声明,无法保证对垃圾收集器的调用

JVM实现者可以通过System.gc()调用来决定JVM的GC行为。而一般情况下,垃圾回收应该是自动进行的,无需手动出发,否则就太过于麻烦了。在一些特殊的情况下,如果我们正在编写一个性能基准,我们可以在运行之间调用System.gc()

由于System.gc()不一定执行Full GC,可以通过System.runFinalization()方法强制调用使用应用对象的finalize()方法

内存溢出(OOM)

内存溢出相对于你内存泄漏来说,尽管更容易被理解,但是同样的,内存溢出也是引发程序崩溃的罪魁祸首之一

由于GC一直在发展,所有一般情况下,除非应用程序占用的内存增产速度非常快,造成垃圾回收已经跟不上内存消耗的速度,否则不太容易出现OOM

javadoc中堆OOM的解释是:没有空闲的内存,并且垃圾收集器也无法提供更多的内存

导致OOM的原因主要有两个

  1. Java虚拟机的堆内存设置不够
  2. 代码中创建了大量大对象,并且长时间不能被垃圾收集器收集

一般在抛出OOM之前,垃圾收集器会被出发,尽其所能区清理出空间

  • 例如:在应用机制分析中,涉及到JVM会去尝试回收软引用指向的对象等
  • java.nio.BIts.reserveMemory()方法中,我们能清楚地看到,System.gc()被调用,已清理空间

当然,也不是在任何情况下垃圾收集器都会被触发的

  • 比如,创建一个超大的对象,类似一个超大数组超过堆的最大值,JVM可以判断出垃圾收集器并不能解这个问题,所以直接抛出OOM
内存泄漏(Memory Leak)

也被称作"存储渗漏"。严格来说,只有对象不会在被程序用到了,但是GC又不能回收它们的情况,才叫内存泄漏

但实际上,很多时候一些不太好的实践(或疏忽)会导致对象的声明周期变得很长甚至导致OOM,也可以叫做宽泛意义上的"内存泄漏"

尽管内存泄漏并不会立刻引起程序崩溃,但是一旦发生内存泄漏,程序中的可用内存就会被逐步蚕食,直至耗尽所有内存,最终出现OOM,导致程序崩溃

注意

  • 这里的存储空间并不是指物理内存,而是指虚拟内存大小,这个虚拟内存大小取决于磁盘交换区设定的大小
image-20210819225449737

举例

  1. 单例模式
    • 单例的声明周期和应用程序是一样长的,所以单例程序中,如果持有对外部对象的引用的话,那么这个外部对象是不能被回收的,则会导致内存泄漏的产生
  2. 一些提供close的资源未关闭导致内存泄漏
    • 数据库连接(dataSource.getConnection()),网络连接(socket)和io连接必须手动close,否则是不能被回收的
Stop The World

简称STW,指的是GC事件发生过程中,会产生一个用程序的停顿。停顿产生时整个应用程序想蹭都会被暂停,没有任何相应

  • 可达性分析算法中美剧根节点(GC Roots)会导致所有Java执行线程停顿
    • 分析工作必须在一个能确保一致性的快照中进行
    • 一致性指整个分析期间整个执行系统看起来像被冻结在某个时间点上
    • 如果出现分析过程中对象引用关系还在不断变化,则分析结果的准确性无法保证

STW事件和采用哪一个GC无关,所有的GC都有整个事件

哪怕是G1也不能完全避免STW发生,只能收垃圾回收器越优秀,回收效率越来越高,尽可能地缩短了暂停的时间

STW是JVM后台自动发起和自动完成的。在用户不可见的情况下,把用户正常的工作线程全部停掉

开发中不要使用System.gc(),它会导致STW的发生

垃圾回收的并行与并发

并行(Parallel):指多条垃圾收集线程并行工作,但此时用户线程仍处于等待状态

  • 如ParNew,Parallel Scavenge,Parallel Old

串行(Serial)

  • 相较于并行的概念,单线程执行
  • 如果内存不够,则程序暂停,启动JVM垃圾回收进行垃圾回收。回收完后再启动程序的线程

image-20210820182928548

并发(Concurrent):指用户线程与垃圾收集线程同时执行(但不一定是并行的,可能会交替执行),垃圾收集线程在执行时不会停顿用户程序的运行

  • 用户程序在继续运行,而垃圾收集程序线程运行在另一个CPU上
  • 如:CMS,G1
安全点

程序执行时并非在所有的地方都能停顿下来开始GC,只有在特定的位置才能停顿下来开始GC,这些位置被称为"安全点(Safe Point)"

Safe Point的选择很重要,如果太少可能导致GC等待的时间太长,如果频繁可能导致运行时的性能问题。大部分指令的执行时间都非常短暂,通常会根据"是否具有让程序长时间执行的特征"为标准。比如:选择一些执行时间较长的指令作为Safe Point,如方法调用,循环跳转和异常跳转

如何在GC发生时,检查所有线程是否都在最近的安全点停顿下来呢?

  • 抢先式中断(目前已经没有虚拟机采用了)
    • 首先中断所有线程,如果还有线程不再安全点,就恢复线程,让线程跑到安全点
  • 主动式中断
    • 设置一个中断标识,各个线程运行到Safe Point的时候主动轮询整个标志,如果中断标志为真,则将自己进行中断挂起
安全区域

SafePoint机制保证了程序执行时,在不太长的时间内就会遇到可进入GC的SafePoint。但是,程序"不执行"的时候,例如线程处于Sleep状态或Blocked状态,这时候线程无法相应JVM的中断请求,"走"到安全点区中断挂起,JVM也不太可能等待线程被唤醒。对于这种情况,就需要安全区域(Safe Region)来解决

安全区域是指在一段代码片段中,对象地引用关系不会发生变化,在这个区域中的任何位置开始GC都是安全的。我们也可以把Safe Region看做是被扩展了的Safe Point

实际执行时:

  1. 当线程运行到Safe Region的代码时,首先标识已经进入了Safe Region,如果这段时间内发生了GC,JVM会忽略标识为Safe Region状态的线程
  2. 当线程即将离开Safe Region时,会检查JVM是否已经完成GC,如果完成了,则继续运行,否则线程必须等待直到收到可以安全离开Safe Region的信号为止
引用

在jdk1.2之后,Java对引用的概念进行了扩充,将引用分为强引用(Strong Reference),软引用(Soft Reference),弱引用(Weak Reference),虚引用(Phantom Reference)4种,这4种引用强度依次逐渐减弱

除了强引用外,其他3种引用均可以在java.lang.ref包中找到它们

image-20210820202916898

Reference子类中只有终结引用是包内可见的,其他3种引用类型均为public,可以在应用程序中直接使用

  1. 强引用(Strong Refrence):最传统的"引用"定义,是指在程序代码之中普通存在的引用赋值,即类似"Object obj = new Object()"这种引用关系。无论任何情况下,只要强引用关系还存在,垃圾收集器就永远不会回收掉引用的对象
  2. 软引用(Soft Refrence):在系统将要发生内存溢出之前,将会把这些对象列入回收范围之中进行第二次回收。如果这次回收后没有足够的内存,才会抛出内存溢出异常
  3. 弱引用(Weak Reference):被弱引用关联的对象只能生存到下一次垃圾收集之前。当垃圾收集器工作时,无论内存空间是否足够,都会回收掉被弱引用关联的对象
  4. 虚引用(PhantomRefrence):一个对象是否有虚引用的存在,完全不会对其生存时间构成影响,也无法通过虚引用来获得一个对象的实例。为一个对象设置虚引用关联的唯一目的就是能在这个对象被收集器回收时收到一个系统通知
强引用(Strong Refrence)

在Java程序中,最常见的引用类型就是强引用(普通系统99%以上都是强引用),也就是说我们最常见的普通对象引用,也是默认的引用类型

当在Java语言中使用new操作符创建一个新的对象,并将其赋值给一个变量的时候,这个变量就成为指向该对象的强引用

强引用的对象是可触及的,垃圾收集器就永远不会收回掉被引用的对象

对于一个普通的对象,如果没有其他的引用关系,只要超过了引用的作用域或者显式地将相应的强引用赋值为null,就是可以当作垃圾被收集了,当然具体回收时机还是要看垃圾收集策略

相对的,软引用,弱引用和虚引用的对象是软可触及,弱可触及和虚可触及的,在一定条件下,都是可以被回收的。所以,强引用是造成Java内存泄漏的主要原因之一

主要特点

  • 强引用可以直接访问目标对象
  • 强引用所指向的对象在任何时候都不会被系统回收,虚拟机宁愿抛出OOM异常,也不会回收强硬引用所指向的对象
  • 强引用可能导致内存泄漏
软引用(Soft Refrence)–内存不足即回收

软引用是用来描述一些还有用,但非必须的对象。只被软引用关联着的对象,在系统将要发生内存溢出异常前,会把这些对象列进回收范围之中进行第二次回收,如果这次回收还没有足够的内存,才会抛出内存溢出异常

软引用通常用来实现内存敏感的缓存,比如:高速缓存就有用到软引用。如果还有空闲内存,就可以暂时保留缓存,当内存不足时清理掉,这样就保证了使用缓存的同时,不会耗尽内存

垃圾回收器在某一个时刻决定回收软可达的对象的时候,会清理软引用,并可选地把引用存放到一个引用队列中

类似弱引用,只不过Java虚拟机会尽量让软件的存活时间长一些,迫不得已才清理

// 创建一个强引用对象
Object obj = new Object();
// 创建强引用对象的软引用对象
SoftReference<Object> softReference = new SoftReference<>(obj);
// 释放强引用对象
obj = null;
弱引用–已发现就回收

弱引用也是用来描述那些非必须对象,被弱引用关联的对象只能生存到下一次垃圾收集发生为止。在系统GC时,只要发现弱引用,不管系统堆空间使用是否充足,都会回收掉只被弱引用关联的对象

但是,由于垃圾回收器的线程通常优先级很低,因此,并不一定很快地发现持有弱引用的对象。在这种情况下,弱引用对象可以存在较长的时间

弱引用和软引用一样,在构造弱引用时,也可以指定一个引用队列,当弱引用对象被回收时,就会加入指定的队列,通过这个队列可以跟踪对象的回收情况

软引用,弱引用都非常适合来保存那些可有可无的缓存数据。如果这么做,当内存资产充不足时,这些缓存数据会被回收,不会导致内存溢出。而当内存资产资源充足时,这些缓存数据又可以存在相当长的时间,从而起到加速系统的作用

// 创建一个强引用对象
Object obj = new Object();
// 创建一个弱引用对象
WeakReference<Object> weakReference = new WeakReference<>(obj);
// 释放强引用对象
obj = null;

弱引用对象与软引用对象的最大区别在于,当gc在进行回收时,需要通过算法去检查是否回收软引用对象,而对于弱引用对象,gc总是进行回收弱引用对象更容易,更快被回收

虚引用–对象回收跟踪

虚引用必须和引用队列一起使用。虚引用在创建时必须提供一个引用队列作为参数。当垃圾回收准备回收一个对象时,如果发现还是虚引用,就会在回收对象后,将这个虚引用加入引用队列中,已通知引用程序对象的回收情况

由于虚引用可以跟踪对象的回收时间,因此,也可以将一些资产释放操作放置在虚引用中执行和记录

终结器引用

它可以实现对象的finalize()方法,也可以成为终结器引用

无需手动编码,其内部配合引用队列使用

在gc时,终结器引用入队。由Finalizer线程通过终结器引用找到引用对象并调用它的finalize()方法,第二次gc时才能回收被引用对象

垃圾回收器概述

垃圾收集器没有在规范中进行过多的规定,可以由不同的厂商,不同版本的JVM实现

由于jdk的版本处于高速迭代过程中,因此Java发展至今已经衍生了众多的GC版本

从不同角度分析垃圾收集器,可以将GC分为不同的类型

评估GC性能的指标

  • 吞吐量:运行用户代码的时间占总运行时间的比例
  • 垃圾收集开销:吞吐量的补数,垃圾收集所用时间与总运行时间的比例
  • 暂停时间:相对于引用程序的执行,收集操作发生的频率
  • 内存占用:Java堆区所占的内存大小
  • 快速:一个对象从诞生到被回收所经历的时间

吞吐量,暂停时间和内存占用三者之间不可能同时满足,一般主要满足两点:吞吐量暂停时间

吞吐量

吞吐量就是cpu用于运行用户代码的时间与cpu总消耗时间的比值,即吞吐量 = 运行用户代码时间 / (运行用户代码时间 + 垃圾收集时间)

如:虚拟机总共运行了100分钟,其中垃圾收集花掉了1分钟,那么吞吐量就是99%

这种情况下,应用程序能容忍较高的暂停时间,因此,高吞吐量的应用程序由更长的时间基准,快速响应时不必考虑的

吞吐量优先,意味着在单位时间内,STW的时间最短

暂停时间
暂停时间是指一个时间段内引用程序线程暂停,让GC线程执行的状态

如:GC期间100毫秒的暂停时间意味着在这100毫秒内没有应用程序线程时活动的

在暂停时间优先,意味着尽可能让单次STW的时间最短

image-20210823200454555

高吞吐量低暂停时间
选择以吞吐量优先,那么必然需要降低内存回收的执行频率,但是这样会导致GC需要更长的暂停时间来执行内存回收选择以低延迟优先为原则,那么为了降低每次执行内存回收时的暂停时间,也只能频繁地执行内存回收,但这又会引起年轻代内存的缩减(碎片化)和导致线程吞吐量的下降

现在的目标:在最大吞吐量优先的情况下,降低停顿时间

七种经典的垃圾回收器

  • 串行回收器:SerialSerial Old
  • 并行回收器:ParNewParallel ScavengeParallel Old
  • 并发回收器:CMSG1

image-20210823202753313

垃圾回收器与垃圾分代之间的关系image-20210823203258709

image-20210823203007928

  • 新生代收集器:SerialParNewParallel Scavenge
  • 老年代收集器:Serial OldParallel OldCMS
  • 整堆收集器:G1

垃圾回收器组合使用关系

image-20210823203250430

说明

两个收集器间有连线,表明他们可以搭配使用

其中Serial Old作为CMS出现Concurrent Mode Failure失败的后备预案

红色虚线由于维护和兼容性测试的成本,在jdk8时将Serial + CMS,ParNew + Serial Old这两个组合声明为废弃,并在jdk9中完全取消了这些组合的支持

绿色虚线在jdk14中:弃用Parallel Scavenge和SerialOld GC的组合

青色虚线jdk14中:删除CMS垃圾回收器

虽然我们会对各个收集器进行比较,当并非为了挑选一个最好的收集器出来。没有一种在任何场景下能适用的完美收集器存在,更加没有万能的收集器。所以我们选择的只是堆具体应用最合适的收集器

查看当前使用的垃圾收集器

  1. -XX:+PrintCommandLineFlags:查看命令行相关参数(包含使用的垃圾收集器)
  2. 使用命令行指令:jinfo -flag [相关垃圾回收参数] 进程id
Serial回收器–串行回收

serial收集器时最基本,历史最悠久的垃圾收集器了,jdk1.3之前回收新生代唯一的选择

serial收集器作为HotSpot中Client模式下的默认新生代垃圾收集器

Serial收集器采用复制算法,串行回收和STW机制的方式执行内存回收

除了年轻代之外,Serial收集器还提供用于执行老年代垃圾收集的Serial Old收集器。Serial Old收集器同样也采用了串行回收和STW机制,只不过内存回收算法使用的是标记-压缩算法

  • Serial Old是运行在Client模式下默认的老年代的垃圾回收器
  • Serial Old在Server模式下主要有两个用途
    1. 与新生代的Parallel Scavenge配合使用
    2. 作为老年代CMS收集器的后备垃圾收集方案

image-20210823221613469

这两个收集器都是单线程的收集器,但它的"单线程"的意义并不仅仅说明他只会使用一个CPU或一条收集线程去完成垃圾收集工作,更重要的是在它进行垃圾收集时,必须暂停其他所有的工作线程,直到它收集结束(STW)

优势:简单高效(与其他收集器的单线程比),对于限定单个CPU的环境来说,Serial收集器由于没有线程交互的开销,专心做垃圾收集自然可以获得最高的单线程收集效率

运行在Client模式下的虚拟机是个不错的选择

在用户的桌面应用场景下,可用内存一般不大,可以在较短的时间内完成垃圾收集,只要不频繁发生,使用串行回收器是可以接受的

在HotSpot虚拟机中,使用-XX:+UseSerialGC参数可以指定年轻但和老年代都是用串行收集器

等价于新生代使用Serial GC,老年代使用Serial Old GC

总结

  • 现在的GC已经不用串行的了,只有在限定是单核CPU才会用到,但现在的绝大部分设备都不是单核的
  • 对于交互较强的应用而言,Serial GCSerial Old GC是不能被接受的,一般在Java Web应用程序中是不会采用串行垃圾收集器的
ParNew–并行回收

ParNew收集器除了采用并行回收的方式执行内存回收外,ParNew和Serial之间几乎没有任何区别。ParNew收集器在年轻代中同样采用复制算法,STW机制

ParNew是很多JVM运行在Server模式下新生代的默认垃圾收集器

image-20210823230658263

对于新生代,回收次数频繁,使用并行方式高效

对于老年代,回收次数少,使用串行方式节省资源(CPU并行需要切换线程,串行可以省去切换线程的资源)

由于ParNew收集器是基于并行回收,那么是否可以断定ParNew收集器的回收效率在任何场景都会比Serial收集器更加高效?

  • ParNew收集器运行在多CPU的环境下,由于可以充分利用多CPU,多核心等物理硬件优势,可以更快地完成垃圾收集,提升程序的吞吐量
  • 但是在单个CPU的环境下,ParNew收集器不比Serial收集器更高效。虽然Serial收集器是基于串行回收,但是由于CPU不需要频繁地做任务切换,因此可以有效避免多线程交互过程中产生的一些额外开销

除了Serial外,目前只有ParNew GC能与CMS收集器配合工作

在程序中,可以通过-XX:+UseParNewGC手动指定使用ParNew收集器执行内存回收任务。它表示年轻代使用并发收集器,不影响老年代

-XX:ParallelGCThreads限制线程数量,默认开启和CPU数量相同的线程数

Parallel Scavenge收集器–吞吐量优先

HotSpot的年轻代中除了拥有ParNew收集器是基于并行回收的以外,Parallel Scavenge收集器同样也采用了复制算法,并行回收和STW机制

那么Parallel收集器的出现是否多此一举呢?

  • 和ParNew收集器不同,Parallel Scavenge收集器的目标则是达到一个可控制的吞吐量,它也被成为吞吐量优先的垃圾收集器
  • 自适应调节策略也是Parallel Scanvenge与ParNew一个重要的区别

高吞吐量则可以高效率地利用CPU的时间,尽快完成程序的运算任务,主要适合在后台运算而不需要太多交互地任务。因此,常见在服务器环境中使用。例如,那些执行批量处理,订单处理,工资支付,科学计算等可以接受延时响应地应用程序

Parallel收集器在jdk1.6时提供了用于执行老年代地垃圾收集地Parallel Old收集器,用来代替老年代的Serial Old收集器

Parallel Old收集器采用了标记-压缩算法,但同样也是基于并行回收和STW机制

总结

  • 在程序吞吐量优先的场景中,Parallel收集器和Parallel Old收集器的组合,在Server模式下的内存回收性能很不错
  • 在jdk8中,默认时此垃圾回收器

参数配置

  • -XX:+UseParallelGC:手动指定年轻代使用Parallel并行收集器执行内存回收任务
  • -XX:+UseParallelOldGC:手动指定老年代使用并行回收收集器
    • 分别适用于新生代和老年代。默认jdk8是开启的
    • -XX:+UseParallelGC-XX:+UseParallelOldGC默认开启一个,另一个也会被开启(互相激活)
  • -XX:ParallelGCThreads:设置年轻代并行收集器的线程数。一般地,最好与CPU数量相等,以避免过多的线程数量影响垃圾收集性能
    • 默认情况下,当CPU数量小于8个,ParallelGCThreads的值等于CPU数量
    • 当CPU数量大于8个时,ParallelGCThreads的值等于3 + [5 * CPU_count] / 8
  • -XX:MaxGCPauseMillis:设置垃圾收集器最大停顿时间(即STW的时间),单位是秒
    • 为了尽可能地停顿时间控制在MaxGCPauseMills以内,收集器在工作时会调整Java堆大小或者其他一些参数
    • 对于用户来讲,停顿时间约越短体验越好。但是在服务器端,我们注重高并发,整体的吞吐量。所以服务器端适合Parallel进行控制
    • 该参数使用徐慎重
  • -XX:GCTimeRatio:垃圾收集时间占总时间的比例(1/(N + 1))。用于衡量吞吐量的大小
    • 取值范围(0, 100)。默认值99,也就是垃圾回收时间不超过1%
    • 与前一个-XX:MaxGCPauseMillis参数有一定矛盾性。暂停时间越长,Ratio参数就越容易超过设定的比例
  • -XX:+UseAdaptiveSizePolicy:设置Parallel Scavenge收集器具有自适应调节策略
    • 在这种模式下,年轻代的大小,Eden和Survival的比例,晋升老年代的对象等参数会被自动调整,已达到在堆大小,吞吐量和停顿时间之间的平衡点
    • 在手动调优比较困难的场合,可以直接使用这种自适应的方式,仅指定虚拟机的最大堆,目标的吞吐量(GCTimeRatio)和停顿时间(MaxGCPauseMills),让虚拟机自己完成调优工作
CMS回收器–低延迟

在jdk1.5时期,HotSpot推出了一款在强交互应用中几乎可认为有划时代意义的垃圾收集器:CMS(Concurrent-Mark-Sweep)收集器,这款收集器是HotSpot虚拟机中第一款真正意义上的并发收集器,它第一次实现了让垃圾收集线程与用户线程同时工作

CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短就越适合与用户交互的程序,良好的下你勾引熟读能提升用户体验

  • 目前很大一部分的Java应用集中在互联网站或者B/S系统的服务端上,这类应用尤其重视服务的响应速度,希望系统停顿时间最短,以给用户带来较好的体验。CMS收集器就非常符合这类应用的需求

CMS的垃圾收集算法采用标记-清除算法,并且也会STW

CMS作为老年代的收集器,却无法与jdk1.4中已经存在的新生代收集器Parallel Scavenge配合工作,所以在jdk1.5中使用CMS来收集老年代的时候,新生代只能选择ParNew或者Serial收集器中的一个

在G1出现之前,CMS使用还是非常广泛的

image-20210824225419164

CMS整个过程比之前的收集器要复杂,整个过程分为4个主要阶段,即初始标记阶段并发标记阶段重新标记阶段并发清除阶段

  • 初始标记阶段(Initial-Mark):在这个阶段中,程序中所有的工作线程都将会因为STW机制而出现短暂的在暂停,这个阶段的主要任务仅仅是标记出GC Roots能够直接关联到的对象。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象比较小,所以速度非常快
  • 并发标记阶段(Concurrent_Mark):GC Roots的直接关联对象开始遍历整个对象图的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行
  • 重新标记阶段(Remark):由于在并发标记阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正表发标记期间,因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录,这个阶段的停顿时间通常会比初始标记阶段稍长一些,但也远比并发标记阶段的时间短
  • 并发清除阶段(Concurrent-Sweep):此阶段清理删除掉标记阶段判断的已经死亡的对象释放内存空间。由于不需要移动存活对象,所以这个阶段也是可以与用户线程同时并发的

尽管CMS收集器采用的时并发回收(非独占式),但是在其初始化标记和重新标记这两个阶段中仍然需要执行STW机制暂停程序中地工作线程,不过暂停时间并不会太长,因此可以说明目前所有地垃圾收集器都做不到完成不需要STW,只是尽可能地缩短暂停时间

由于最耗费时间地并发标记与并发清除都不需要暂停工作,所以整体的回收是低停顿的

另外,由于在垃圾收集阶段用户线程没有中断,所以在CMS回收过程中,还应该确保应用程序用户线程有足够的内存可用。因此,CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,而是当堆内存使用率达到某一阈值时,便开始进行回收,以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。要是CMS运行期间预留的内存无法满足程序需要,就会出现一次"Concurrent Mode Failure"失败,这时虚拟机将启动后备方案:临时启用Serial Old收集器来重新进行老年代的垃圾收集,但这样停顿时间就很长了

CMS收集器的垃圾收集算法采用的是标记-清除算法,这意味着每次执行完内存回收后,由于被执行内存回收的无用对象所占用的内存空间极有可能是不连续的一些内存块,不可避免地将会产生一些内存碎片。那么CMS在为新对象分配内存空间时,将无法使用指针碰撞技术,而只能够选择空闲列表执行内存分配

为什么不把CMS使用的标记-清理算法换成标记-压缩算法来解决内存碎片化的问题呢?

因为当并发清除的时候,用Compact整理内存的话,原来的用户线程使用的内存也需要改变地址引用,这是不可行的。要保证用户线程能继续执行,前提是它运行的资源不受影响

优点

  • 并发收集
  • 低延迟

缺点

  • 会产生内存碎片,导致并发清除后,用户线程可用的空间不足。在无法分配大对象的情况下,不得不提前触发Full GC
  • CMS收集器对CPU资产非常敏感。在并发阶段,它虽然不会导致用户停顿,但是会因为占用了一部分线程而导致应用程序变慢,总吞吐量会降低
  • CMS搜集器无法处理浮动垃圾。可能出现"Concurrent Mode Failure"失败而导致另一次Full GC的产生。在并发标记阶段由于程序的工作线程和收集线程是同时运行或者交叉运行的,那么在并发标记阶段如果产生新的垃圾对象,CMS将无法对这些垃圾对象进行标记,最终会导致这些新产生的垃圾对象没有被及时回收,从而只能在下一次执行GC时释放这些之前未被回收的内存空间

参数配置

  • -XX:+UseConcMarkSweepGC:手动指定使用CMS收集器执行内存回收任务
    • 开启该参数后会自动将-XX:+UseParNewGC打开。即:ParNew(年轻代) + CMS(老年代) + SerialOld(老年代备用)
  • -XX:CMSlnitialtingOccupanyFraction:设置堆内存使用率的阈值,一旦达到该阈值,便开始进行回收
    • jdk5以及以前版本的默认值为68,即当老年代的空间使用率达到68%时,会执行一次CMS回收。jdk6以及以上版本默认是92%
    • 如果内存增产缓慢,则可以设置一个稍大的值,大的阈值可以有效降低CMS的触发频率,减少老年代回收的次数,可以较为明显地改善应用程序性能。反之,如果应用程序内存使用率增长很快,则应用降低这个阈值,以避免频繁触发老年代串行收集器因此通过该选项便可以有效降低Full GC的执行次数
  • -XX:+UseCMSCompactAtFullCollection:用于指定在执行完Full GC后对内存空间进行压缩整理,以此避免内存碎片的产生。不过由于内存压缩整理过程无法并发执行,所带来的问题就是停顿时间变得更长了
  • -XX:CMSFullGCsBeforeCompaction:设置在执行多少次Full GC后对内存空间进行压缩整理
  • -XX:ParallelCMSThreads:设置CMS的线程数量
    • CMS默认启动的线程数是(ParallelGCThreads + 3)/4,ParallelGCThreads是年轻代并行收集器的线程数。当CPU资源比较紧张时,收到CMS收集器线程的影响,应用程序的性能在垃圾回收阶段可能非常糟糕

GC搭配原理

Serial + Serial Old最小化地使用内存和并行开销
Parallel + Parallel Old最大化应用程序的吞吐量
ParNew + CMS + Serial Old最小化GC的中断或停顿时间

注意

  • jdk9新特性:CMS被标记为Deprecate
    • 如果对jdk9以及以上版本的HotSpot虚拟机使用参数-XX:+UseConcMarkSweepGC来开启CMS收集器的话,用户会收到一个警告,提示CMS未来将会被废弃
  • jdk14新特性:删除CMS垃圾收集器
    • 移除了CMS垃圾收集器,如果在jdk14中使用-XX:+UseConcMarkSweepGC的话,jvm不会报错,只是给出一个警告信息,但是不会exit,jvm会自动回退以默认的GC方法启动jvm
G1回收器–区域分代器

image-20210827193713576

官方给G1设定的目标时在延迟可控的情况下获得尽可能高的吞吐量

G1是一个并行的回收器,它把堆内存分割为很多不相关的区域(Region),物理上不连续。使用不同的Region来表示Eden,Survivor0区和Survivor1区,老年代等

G1 GC有计划地避免在整个Java堆中进行全区域的垃圾收集。G1跟踪各个Region里面的垃圾堆积的价格大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region

由于这种方式的侧重面在于回收垃圾最大量的区间(Region),所以我们给G1一个名字:垃圾优先(Garbage First)

G1是一款面向服务器端应用的垃圾收集器,主要针对配备多核CPU以及大容量内存的机器,以及高概率满足GC停顿时间的同时,还兼具高吞吐量取得性能特性

在jdk1.7版本正式启用,移除了Experimental的标识,是jdk9以后的默认垃圾回收器,取代了CMS回收器以及Parallel + Parallel Old组合,被Oracle官方称为"全功能的垃圾收集器"

与此同时,CMS已经在jdk9种被标记为废弃,在jdk8中还不是默认的垃圾回收器,需要使用-XX:UseG1GC来启用

与其它GC收集器相比,G1使用了全新的分区算法

  • 并行与并发
    • 并行性:G1在回收期间,可以有多个GC线程同时工作,有效利用多核计算能力(此时用户线程STW)
    • 并发性:G1拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会在整个回收阶段完成阻塞应用程序的情况
  • 分代收集
    • 从分代上看,G1依然属于分代型垃圾回收器,它会区分年轻代和老年代,年轻代依然有Eden区和Survivor区。但从堆的结构上看,它不要求整个Eden区,年轻代或者老年代都是连续的,也不再坚持固定大小和固定数量
    • 将堆空间分为若干个区域(Region),这些区域中包含了逻辑上的年轻代和老年代
    • 和之前的各类回收器不同,它同时兼顾了年轻代和老年代。对比其他回收器,或者工作在年轻代,或者工作在老年代
  • 空间整合
    • CMS:"标记-清除"算法会产生内存碎片,若干次GC后需要进行一次碎片整理
    • G1将内存划分为一个个的region,内存的回收是以region作为基本单位的。Region之间是复制算法,但整体上实际可看作是标记-压缩算法,两种算法都可以避免内存碎片。这种特性有利于程序长时间与运行,分配大对象时不会因为无法找到连续内存空间而提前触发下一次GC。尤其是当Java堆非常大时,G1的优势更加明显
  • 可预测的停顿时间模型(即:软实时soft real-time)
    • 这是G1相较于CMS的另一大优势,G1除了追求低停顿外,还能极爱能力可预测的停顿时间模型,能让使用者明确指定一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过N毫秒
      • 由于分区的原因,G1可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制
      • G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需要时间的经验值),在后台维护了一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region。保证了G1收集器在有限的时间内可以获取尽可能高的收集效率
      • 相比于CMS GC,G1未必能够做到CMS在最好情况下的延时停顿,但是最差情况要比CMS好很多

G1收集器的缺点

相较于CMS,G1还不具备全方位,压倒性优势。比如在用户程序运行过程中,G1无论是为了垃圾收集产生的内存占用(Footprint)还是程序运行时的额外执行负载(Overload)都要比CMS要高

从经验上来说,在小内存应用上CMS的表现大概率会优于G1,而G1在大内存应用上则发挥其优势。平衡点在6-8GB之间

参数配置

  • -XX:+UseG1GC:手动指定使用G1收集器执行内存回收任务
  • -XX:G1HeapRegionSize:设置每个Region的大小。值是2的幂,范围是1MB到32MB之间,目标是根据最小的Java堆大小划分出约2048个区域。默认是堆内存的1/2000
  • -XX:MaxGCPauseMillis:设置期望达到的最大GC停顿时间指标(jvm会尽力实现,但不保证达到)。默认值是200ms
  • -XX:ParallelGCThread:设置STW时GC线程数的值。最多设置为8
  • -XX:ConcGCThreads:设置并发标记的线程数。将n设置为并行垃圾回收线程数(ParallelGCThreads)的1/4左右
  • -XX:InitiationHeapOccupancyPercent:设置触发并发GC周期的Java堆占用率阈值。超过此值,就触发GC。默认值是45

G1收集器的使用场景

  • 面向服务端应用,针对具有大内存,多处理器的机器(G1在普通大小的堆里表现并不亮眼)

  • 最主要的应用是需要低GC延迟,并具有大堆的应用程序提供解决方法

    • 如:在堆大小约6GB或者更大时,可预测的暂停时间可以低于0.5秒(G1通过每次只清理一部分而不是全部的Region的增量式清理来保证每次GC停顿时间不会过长)

  • 用来替换掉jdk1.5中的CMS收集器

    • 在以下场景中,使用G1可能比CMS好

      超过50%的Java堆被活动数据占用

      对象分配频率过年代提升频率变化很大

      GC停顿时间过长(长于0.5至1秒)

  • HotSpot垃圾回收器里,除了G1以外,其他的垃圾收集器使用内置的JVM线程执行GC的多线程操作,而G1 GC可以采用应用程序承担后台运行的GC工作,即当JVM的GC线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程

Region

使用G1收集器时,它将整个Java堆划分成约2048个大小相同的独立Region块,每个Region块大小根据堆空间的实际大小而定,整体被控制在1MB到32MB之间,且为2的N次幂,即1MB,2MB,4MB,8MB,16MB,32MB等,可以通过-XX:G1HeapRegionSize设定所有的Region大小相同,且在JVM生命周期内不会被改变

虽然还保留有新生代和老年代的概念,当新生代和老年代不再是物理隔离的了,它们都是一部分Region(不需要连续)的集合。通过Region的动态分配方式实现逻辑的连续

image-20210827203403482

一个Region有可能属于Eden,Survovor或者old内存区域。但是一个Region只可能属于一个角色

G1垃圾收集器还增加了一种新的内存区域,叫做Humongous内存区域,如图中的H块。主要用于存储大对象,如果超过1.5个Region,就放到H块中

为什么要设置H块?

对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象,就会堆垃圾收集器造成负面影响。为了解决这个问题,G1划分了一个Humongous区,它用来专门存放大对象。如果一个H区装不下一个大对象,那么G1会寻找连续的H区来存储。为了能找到连续的H区,有时候不得不启动Full GC。G1的大多数行为都把H区作为老年代的一部分来看待

G1回收器的回收过程

  • 年轻代GC(Young GC)
  • 老年代并发标记过程(Concurrent Marking)
  • 混合回收(Mixed GC)
  • 如果需要,单线程,独占式,高强度的Full GC还是继续存在的,它针对GC的评估失败提供了一种失败保护机制,即强力回收

image-20210827210009598

按顺时针,Young GC -> Young GC + Concurren Mark -> Mixed GC顺序进行垃圾回收

G1垃圾回收期垃圾回收过程

应用程序分配内存,当年轻代的Eden区用尽时开始年轻代回收过程:G1的年轻代收集阶段是一个并行独占式收集器。在年轻代回收期,G1 GC暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动到Survivor区间或者老年代区间,也有可能是两个区域都会涉及

当堆内存使用达到一定值(默认45%)时,开始老年代并发标记过程

标记完成马上开始混合回收过程,对于一个混合回收期,G1 GC从老年代区间移动存活对象到空闲区间,这些空闲区间也就成为了老年代的一部分。和年轻代不同,老年代的G1回收器和其他GC不同,G1的老年代回收期不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的Region就可以了。同时,整个老年代Region是和年轻代一起被回收的

举个例子:一个Web服务器,Java进程最大堆内存为4GB,每分钟相应1500个请求,每45秒钟会重新分配大约2G的内存。G1会每45秒进行一次年轻代回收,每31个小时整个堆的使用率会达到45%,会开始老年代并发标记过程,标记完成后开始4到5次的混合回收

G1回收期垃圾回收过程:Remembered Set

  • 一个对象被不同区域引用的问题
  • 一个Region不可能是孤立的,一个Region中的对象可能被其他任意Region中对象引用,判断对象存活是,是否需要扫描整个Java堆才能保证准确
  • 在其他的分代收集器,也存在这样的问题(G1比较突出)
  • 回收新生代也不得不同时扫描老年代?这样的话会降低Minor GC的效率

解决方法

  • 无论是G1还是其他分代收集器,jvm都是使用Remembered Set来避免全局扫描
  • 每个Region都有一个对应的Remembered Set
  • 每次Reference类型数据写操作时,都会产生一个Write Barrier(写屏障)暂时中断操作
  • 然后检查将要写入的引用指向的对象是否和该Reference类型数据在不同的Region(其他收集器:检查老年代对象是否引用了新生代对象)
  • 如果不同,通过CardTable把相关引用信息记录到引用指向对象的所在Region对应的Remembered Set中
  • 当进行垃圾收集时,在GC根节点的枚举范围加入Remembered Set,就可以保证不进行全局扫描,也不会有遗漏

image-20210827230711602

G1的回收过程一–年代代GC(Young GC)

jvm启动时,G1先准备好Eden区,程序在运行过程中不断创建对象到Eden区,当Eden区耗尽时,G1会启动一次年轻代回收

年轻代垃圾回收只会回收Eden区和Survivor区

Young GC时,首先G1停止引用程序的执行(STW),G1创建回收集(Collection Set),回收集是指需要被回收的内存分段的集合,年轻代回收过程的回收集包含Eden区和Survivor区所有的内存分段

image-20210829090917773

具体过程

  1. 第一阶段:扫描根
    • 根是指static变量指向的对象,正在执行的方法调用链条上的局部变量等(类似于GC Roots)。根引用连同RSet记录的外部引用作为扫描存活对象的入口
  2. 第二阶段:更新RSet
    • 处理dirty card queue中的card,更新RSet。此阶段完成后,RSet可以准确的反应老年代对所在内存分段中对象的引用
  3. 第三阶段:处理RSet
    • 识别被老年代对象指向的Eden中对象,这些被指向的Eden中的对象被认为时存活的独显
  4. 第四阶段:复制对象
    • 对象数被遍历,Eden区内存段中存活的对象会被复制到Survivor区中空的内存分段,Survivior区内存分段中存活的对象如果年龄未达到阈值,年龄加1;到达阈值会被复制到Old区中的内存分段。如果Survivor区空间不够,Eden空间的部分数据会直接晋升到老年代空间
  5. 第五阶段:处理引用
    • 处理Sort,Weak,Phantom,Final,JNI Weak等引用。最终Eden空间的数据为空,GC停止工作,而目标内存中的对象都是连续存储的,没有碎片,所以复制过程可以达到内存整理的效果,减少碎片
G1的回收过程二–老年代并发标记过程(Concrrent Marking)
  1. 初始标记阶段
    • 标记从根节点直接可达的对象。这个阶段时STW的,并且会触发一次年轻代GC
  2. 根区域扫描(Root Region Scanning)
    • G1 GC扫描Survivor区直接可达的老年代区域对象,并标记被引用的对象。这个过程必须在Young GC之前被完成
  3. 并发标记(Concurrent Marking)
    • 在整个堆中及并行并发标记(和应用程序并发执行),此过程可能被Young GC中断。在并发标记阶段,若发现区域对象中的所有对象都是垃圾,那这个区域会被立即回收。同时,并发标记过程中,会计算每个区域的对象活性(区域中存活对象的比例)
  4. 再次标记(Remark)
    • 由于应用程序持续进行,需要修正上一次的标记结果(需要STW)。G1中采用了比CMS更快的初始快照算法:snapshot-at-the-beginning(SATB)
  5. 独占清理(Cleanup,STW)
    • 计算各个区域的存活对象和GC回收比例,并进行排序,识别可以混合回收的区域。为下一个阶段做铺垫,同样也需要STW
  6. 并发清理阶段
    • 识别并清理完全空闲的区域
G1的回收过程三–混合回收(Mixed GC)

image-20210829094930029

当越来越多的对象晋升到老年代Old Region时,为了避免堆内存被耗尽,虚拟机会触发一个混合的垃圾收集器(Mixed GC),该算法并不是一个Old GC,除了回收整个Young Region。这里需要注意:是一部分老年代,而不是全部老年代。可以选择那些Old Region进行收集,从而可以对垃圾回收的耗时时间进行控制。也要注意的是Mixed GC并不是Full GC

具体描述

  • 并发标记结束以后,老年代中百分百为垃圾的内存分段被回收了,部分为垃圾的内存分段被计算出来。默认情况下,这些老年代的内存分段会分8次(可以通过-XX:G1MixedGCCountTarget设置)被回收
  • 混合回收的回收集(Collection Set)包括八分之一的老年代内存分段,Eden区内存分段,Survivor区内存分段。混合回收的算法和年轻代回收的算法完全一样,只是回收集多了老年代的内存分段
  • 由于老年代中的内存分段默认分为8次回收,G1会优先回收垃圾多的内存分段。垃圾占内存分段比例越高的,越会被先回收。并且有一个阈值会决定内存分段是否被回收,-XX:G1MixedGCLiveThresholdPercent,默认值为65%,意思是垃圾占内存分段比例要达到65%才会被回收。如果垃圾占比太低,意味着存活的对象占比高,在复制的时候会花费更多的时间
  • 混和回收并不一定要进行8次。有一个阈值-XX:G1HeapWastePercent,默认值为10%,意思是允许整个堆内存中有10%的空间浪费,意味着如果发现可以回收的垃圾占堆内存的比例低于10%,则不再进行混合回收。因为GC会花费很多的时间但是回收到的内存却很少
G1回收可选的过程四–Full GC

G1的初衷就是要避免Full GC的出现,但是如果上述方式不能正常工作,G1会停止应用程序的执行(STW),使用单线程的内存回收算法进行垃圾回收,性能会非常差,应用程序停顿的时间会很长

要避免Full GC的发生,一旦发生需要进行调整

什么时候会发生Full GC?

  • 比如:堆内存太小,当G1在复制存活对象的时候没有空的内存分段可用,则会回退到Full GC,这种情况下可以通过增大内存解决

导致G1 Full GC的原因可能有两个

  1. Evacuation(回收阶段)的时候没有足够的to-space来存放晋升的对象
  2. 并发处理过程完成之前空间耗尽
G1补充

从Oracle官方透露出来的信息可以获知,回收阶段(Evacuation)其实本也有想过设计成与用户程序一起并发执行,但这件事情做起来比较复杂,考虑到G1只是回收一部分Region,停顿时间是用户可控制的,所以并不迫切去实现,而选择把这个特性放到了G1之后出现的低延迟垃圾回收期(即ZGC)中。另外,还考虑到G1不是仅仅面向低延迟,停顿用户线程能够最大幅度提高垃圾收集效率,为了保证吞吐量所以才选择了完全暂停用户线程的实现方案

G1回收期优化建议
  • 年轻代大小
    • 避免使用-Xmn-XX:+NewRatio等相关选项显式设置年轻代大小
    • 固定年轻代的大小会覆盖暂停时间目标
  • 暂停时间目标不要太过严苛
    • G1 GC的吞吐量目标是90%的应用程序时间和10%的垃圾回收时间
    • 评估G1 GC的吞吐量时,暂停时间目标不要太严苛。目标太过于严苛表示jvm需要承受更多的垃圾回收开销,而这些会直接影响到吞吐量
七种垃圾收集器总结
垃圾收集器分类作用位置使用算法特点适用场景
Serial串行新生代复制响应速度优先单CPU环境下的Client模式
ParNew并行新生代复制响应速度优先多CPU环境Server模式与CMS配置使用
Parallel并行新生代复制吞吐量优先后台运算而不需要太多交互的场景
Serial Old串行老年代标记-压缩响应速度优先单CPU环境下的Client模式
Parallel Old并行老年代标记-压缩吞吐量优先后台运算而不需要太多交互的场景
CMS并发老年代标记-清除响应速度优先适用于互联网或B/S业务
G1并发/并行新生代,老年代标记-压缩,复制响应速度优先面向服务端应用

GC发展阶段

Serial => Parallel(并行) => CMS(并发) => G1 => ZGC

如何选择垃圾收集器?

java垃圾收集器的配置对于JVM调优来说是一个很重要的选择,选择合适的垃圾收集器可以让JVM的性能有一个很大的提升

  1. 优先调整堆的大小让JVM自适应完成
  2. 如果内存小于100M,使用串行收集器
  3. 如果是单核,单机程序,并且没有停顿时间的要求,使用串行收集器
  4. 如果是多核。需要高吞吐量,允许停顿时间超过1秒,选择并行或者JVM自己选择
  5. 如果是多CPU,追求低停顿时间,需要快速响应(比如延迟不能超过1秒,如互联网项目),使用并发收集器
    • 官方推荐G1,性能高。现在互联网的项目,基本都是使用G1
GC日志分析

内存分配与垃圾回收的参数列表

  • -XX:+PrintGC:输出简短GC日志,jdk16已不建议使用,被-Xlog:gc代替
  • -XX:PrintGCDetails:输出详细的GC日志,jdk16中已不建议使用,被-Xlog:gc*代替
  • -XX:+PrintGCTimeStamps:输出GC的时间戳(以基准时间的形式)
  • -XX:+PrintGCDateStamps:输出GC时间戳(以日期的形式)
  • -XX:+PrintHeapAtGC:在进行GC的前后打印出堆的信息
  • -Xloggc:[log文件存放路径]:日志文件的输出路径,以便事后分析

image-20210829111942522

参数分析

GC、Full GC:GC的类型,GC只在新生代上进行,Full GC包括永生代,新生代,老年代

Allocation Failure:GC发生的原因

80832K->19298K:堆在GC前后的占用大小

227840K:现在堆的大小

0.0084018 secs:GC持续的时间

Young GC

image-20210829121235374

Full GC

image-20210829121439806
几款新型的GC

open jdk12的Shenandoah GC

image-20210829163143428

以上是RedHat在2016年发表的论文数据,测试内容是使用ES对200GB的维基百科数据进行索引

  • 停顿时间比其他几款收集器确实有了质的飞跃,但也未实现最大停顿时间控制在十毫秒以内的目标
  • 而吞吐量方面出现了明显的下降,总运行时间是所有测试收集器里最长的

可以说Shenandoah GC响应速度优先的垃圾收集器

优点:高运行负担下的吞吐量下降

缺点:低延迟时间

ZGC

ZGC与Shenandoah目标高度相似,在尽可能对吞吐量影响不大的情况下,实现在任意堆内存大小下都可以把垃圾收集的停顿时间限制在十毫秒以内的低延迟

《深入理解Java虚拟机》一书中这样定义ZGC:ZGC收集器是一款基于Region内存布局的,(暂时)不设分代的,使用了读屏障,染色指针和内存多重映射等计数来实现可并发的标记-压缩算法,以低延迟为首要目标的一款垃圾收集器

ZGC的工作过程可以分为4个阶段:并发标记并发预备重分配并发重分配并发重映射

ZGC几乎在所有地方并都是发执行的,除了初始标记需要STW。所以停顿时间几乎就耗费在初始标记上,但这部分的耗时是非常少的

通过-XX:+UseZGC显式使用ZGC,前提是jdk版本大于等于15

分类作用位置使用算法特点适用场景
Serial串行新生代复制响应速度优先
ParNew并行新生代复制响应速度优先
Parallel并行新生代复制吞吐量优先
Serial Old串行老年代标记-压缩响应速度优先
Parallel Old并行老年代标记-压缩吞吐量优先
CMS并发老年代标记-清除响应速度优先
G1并发/并行新生代,老年代标记-压缩,复制响应速度优先

GC发展阶段

Serial => Parallel(并行) => CMS(并发) => G1 => ZGC

如何选择垃圾收集器?

java垃圾收集器的配置对于JVM调优来说是一个很重要的选择,选择合适的垃圾收集器可以让JVM的性能有一个很大的提升

  1. 优先调整堆的大小让JVM自适应完成
  2. 如果内存小于100M,使用串行收集器
  3. 如果是单核,单机程序,并且没有停顿时间的要求,使用串行收集器
  4. 如果是多核。需要高吞吐量,允许停顿时间超过1秒,选择并行或者JVM自己选择
  5. 如果是多CPU,追求低停顿时间,需要快速响应(比如延迟不能超过1秒,如互联网项目),使用并发收集器
    • 官方推荐G1,性能高。现在互联网的项目,基本都是使用G1
GC日志分析

内存分配与垃圾回收的参数列表

  • -XX:+PrintGC:输出简短GC日志,jdk16已不建议使用,被-Xlog:gc代替
  • -XX:PrintGCDetails:输出详细的GC日志,jdk16中已不建议使用,被-Xlog:gc*代替
  • -XX:+PrintGCTimeStamps:输出GC的时间戳(以基准时间的形式)
  • -XX:+PrintGCDateStamps:输出GC时间戳(以日期的形式)
  • -XX:+PrintHeapAtGC:在进行GC的前后打印出堆的信息
  • -Xloggc:[log文件存放路径]:日志文件的输出路径,以便事后分析

[外链图片转存中…(img-dvIXzhMJ-1630228040241)]

参数分析

GC、Full GC:GC的类型,GC只在新生代上进行,Full GC包括永生代,新生代,老年代

Allocation Failure:GC发生的原因

80832K->19298K:堆在GC前后的占用大小

227840K:现在堆的大小

0.0084018 secs:GC持续的时间

Young GC

[外链图片转存中…(img-Y3i3KnCd-1630228040242)]

Full GC

image-20210829121439806
几款新型的GC

open jdk12的Shenandoah GC

[外链图片转存中…(img-k2bH6u87-1630228040242)]

以上是RedHat在2016年发表的论文数据,测试内容是使用ES对200GB的维基百科数据进行索引

  • 停顿时间比其他几款收集器确实有了质的飞跃,但也未实现最大停顿时间控制在十毫秒以内的目标
  • 而吞吐量方面出现了明显的下降,总运行时间是所有测试收集器里最长的

可以说Shenandoah GC响应速度优先的垃圾收集器

优点:高运行负担下的吞吐量下降

缺点:低延迟时间

ZGC

ZGC与Shenandoah目标高度相似,在尽可能对吞吐量影响不大的情况下,实现在任意堆内存大小下都可以把垃圾收集的停顿时间限制在十毫秒以内的低延迟

《深入理解Java虚拟机》一书中这样定义ZGC:ZGC收集器是一款基于Region内存布局的,(暂时)不设分代的,使用了读屏障,染色指针和内存多重映射等计数来实现可并发的标记-压缩算法,以低延迟为首要目标的一款垃圾收集器

ZGC的工作过程可以分为4个阶段:并发标记并发预备重分配并发重分配并发重映射

ZGC几乎在所有地方并都是发执行的,除了初始标记需要STW。所以停顿时间几乎就耗费在初始标记上,但这部分的耗时是非常少的

通过-XX:+UseZGC显式使用ZGC,前提是jdk版本大于等于15

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值