Java JVM

类的加载过程

加载

​ 通过一个类的全限定名获取定义此类的二进制字节流

​ 将这个字节流所代表的静态存储结构转化为方法区的运行时数据结构

​ 在内存中生成一个代表这个类的java.lang.Class对象,作为方法区这个类的各种数据的访问入口

链接

验证(Verify)

​ 目的在于确保Class文件的字节流中包含信息符合当前虚拟机要求,保证被加载类的正确性,不会危害虚拟机自身安全

​ 主要包括四种验证,文件格式验证,元数据验证,字节码验证,符号引用验证

准备(Prepare)

为类变量分配内存并且设置该类变量的默认初始值,即为零

​ 这里包含fianl修饰的static,因为final在编译的时候就会分配了,准备阶段会显示初始化

​ 这里不会为实例变量分配初始化,类变量会分配在方法区中,而实例变量会随着对象一起分配到Java堆中

解析(Resolve)

​ 将常量池内的符号引用转换为直接引用的过程。

​ 事实上,解析操作往往会伴随着JVM在执行完成初始化后再执行

​ 符号引用就是一组符号来描述所引用的目标。符号引用的字面量形式明确定义在《java虚拟机规范》的Class文件格式中。直接引用就是直接指向目标的指针,相对偏移量或一个间接定位到目标的句柄

​ 解析动作主要针对类或接口,字段,类方法,接口方法,方法类型。对应常量池中的CONSTANT_Class_info、CONSTANT_Fieldref_info、CONSTANT_Methodref_info等

初始化

​ 初始化阶段就是执行类的构造器的方法过程

​ 此方法不需要定义,是javac编译器自动收集类中的所有类变量的赋值动作和静态代码块中的语句合并而来

​ 构造器方法中指令按语句在源文件中出现的顺序执行

​ ()不同类的构造器。(关联:构造器是虚拟机视角下的())

​ 若该类具有父类,JVM 会保证之类的()执行前,父类的()已经执行完毕

​ 虚拟机必须保证一个类的()方法在多线程下被同步加锁

类加载器的分类

​ JVM支持两种类型的类加载器,分别为引导类加载器(Bootstrap ClassLoader)和(User-Defined ClassLoader)

​ 从概念上来讲,自定义类加载器一般指的是程序中由开发人员自定义的一类类加载器,但是java虚拟机规范却没有这么定义,而是将所有派生于抽象类ClassLoader的类加载器都划分为自定义类加载器

​ 无论加载器的类型如何划分,在程序中我们最常见的类加载器始终有3个

image-20230127150542175

虚拟机自带的加载器

启动类加载器(引导类加载器,Bootstrap ClassLoader)

​ 这个类加载器使用C/C++语言实现的,嵌套在JVM内部

​ 它用来加载Java的核心类库(JAVA_HOME/jre/lib/rt.jar、resources.jar或sun.boot.class.path路径下的内容),用于提供JVM自身需要的类

​ 并不继承自java.lang.ClassLoader,没有父类加载器

​ 加载扩展类和应用程序类加载器,并指定为他们的父类加载器

​ 出于安全安全考虑,Bootstrap启动类加载器只加载包名为java、javax、sun等开头的类

扩展类加载器(Extension ClassLoader)

​ Java语言编写,由sun.misc.Launcher$ExtClassLoader实现

​ 派生于ClassLoader类

​ 父类加载器为启动类加载器

​ 从java.ext.dirs系统属性所指定的目录中加载类库,或从JDK的安装目录的jre/lib/ext子目录(扩展目录)下加载类库。如果用户创建的JAR放在此目录下,也会自动由扩展类加载器加载

应用程序加载器(系统类加载器,AppClassLoader)

​ Java语言编写,由sun.misc.Launcher$AppClassLoader实现

​ 派生于ClassLoader类

​ 父类加载器为扩展类加载器

​ 它负责加载环境变量classPath或系统属性java.class.path指定路径下的类库

​ 该类加载是程序中默认的类加载器,一般来说,java应用的类都是由它来完成的

​ 通过ClassLoader#getSystemClassLoader()方法可以获取到该类加载类

用户自定义类加载器

​ 在java的日常应用程序开发中,类的加载器几乎是由上述3中类加载器相互配合执行的,在必要的时候,我们可以自定义类的加载器,来制定类的加载方式

为什么要自定义类的加载器

​ 隔离加载器

​ 修改类加载器的方式

​ 扩展加载源

​ 放置源码泄露

关于ClassLoader

classLoader类,它是一个抽象类,其后所有的类加载器都继承自ClassLoader(不包括启动类加载器)

方法名称描述
getParent()返回该类加载器的超类加载器
loadClass(String name)加载名称为name的类,返回结果为java.lang.Class类的实例
findClass(String name)查找名称为name的类,返回结果为java.lang.Class类的实例
findLoadedClass(String name)查找名称为name的已经被加载过的类,返回结果为java.lang.Class类的实例
defineClass(String name, byte[] b, int off, int len)把字节数组b中的内容转换为一个java类,返回结果为java.lang.Class类的实例
resolveClass(Class c)连接指定的一个java类

image-20230127150557765

Sun.misc.Launcher它是一个java虚拟机的入口应用

获取ClassLoader的途径

方式一:获取当前类的ClassLoader
Clazz.getClassLoader()
方式二:获取当前线程上下文的ClassLoader
Thread.currentThread().getContextClassLoader()
方式三:获取系统的ClassLoader
ClassLoader.getSystemClassLoader()
方式四:获取调用者的ClassLoader
DriverManager.getCallerClassLoader()

双亲委派机制

​ Java虚拟机对class文件采用的是按需加载的方式,也就是说当需要使用该类时才会将它的class文件加载到内存生成class对象。而且加载某个类的class文件时,Java虚拟机采用的是双亲委派模式,即把请求交由父类处理,他是一种双亲委派模式

工作原理

​ 如果一个类加载器收到了类加载请求,它并不会自己去加载,而是把这个委托给父类加载器去执行

​ 如果父类加载器还存在其父类加载器,则进一步向上委托,依次递归,请求最终达到顶层的启动类加载器

​ 如果父类加载器可以完成类加载任务,就成功返回,倘若父类加载器无法完成此加载任务,子加载器才会尝试自己去加载,这就是双亲委派机制

image-20230127150619312

针对于jar包的双亲委派

image-20230127150623483

优势

​ 避免类的重复加载

​ 保护程序安全,防止核心API被任意穿改

​ 自定义类:java.lang.String

​ 自定义类:java.lang.ShkStart

​ Java.lang.SecurityException: Prohibited package name : java lang

沙箱安全机制

​ 自定义String类,但是在加载自定义String类的时候会率先使用引导类加载而加载,而引导类加载器在加载过程中会先加载jdk自带的文件(rt.jar包中java/lang/String.class),报错信息说没有main方法就是因为加载的是rt.jar包中的String类。这样可以保证对java核心源代码的保护,这就是沙箱安全机制

其他

JVM中表示两个class对象是否为同一个类在两个必要条件

​ 类的完整类名必须一致,包括包名

​ 加载这个类的ClassLoader(指ClassLoader实例对象)必须相同

​ 换句话说,在JVM中,即使用这两个类对象(class对象)来源于同一个Class文件,被同一个虚拟机所加载,但只要加载他们的ClassLoader实例对象不同,那么这两个类对象也是不相等的

对类加载器的引用

​ JVM必须知道一个类型是由启动加载器加载的还是由用户类加载器加载的。如果一个类型是用户类加载器加载的,那么JVM会将这个类加载器的一个引用作为类型信息的一部分保存在方法区中。当解析一个类型到另一个类型引用的时候,JVM需要保证这两个类型的类加载器是相同的

Java程序对类的使用方式分为:主动使用和被动使用使用

主动使用,又分为七种情况

​ 创建类的实例

​ 访问某个类或接口的静态变量,或者对该静态变量赋值

​ 调用类的静态方法

​ 反射(比如:Class.forName(“com.atguigu.Test”)

​ 初始化一个类的之类

​ JAVA虚拟机启动时被表明为启动类的类

​ JDK7开始提供动态语言支持

​ Java.lang.invoke.MethodHandle实例的解析结果

​ REF_getStatic、REF_putStatic、REF_invokeStatic句柄对应的类没有初始化,则初始化

除了以上七种情况,其他使用Java类的方式都被看作是对类的被动使用,都不会导致类的初始化

运行时数据区(Runtime Data Area)

image-20230127150630216

​ 内存是非常重要的系统资源,是硬盘和CPU的中间仓库及桥梁,承载着操作系统和应用程序的实时运行。JVM内存布局规定了Java在运行过程中内存申请、分配、管理的策略,保证了JVM高效稳定运行。不同的JVM对于内存的划分方式和管理机制存在着部分差异

​ Java虚拟机定义了若干种程序运行期间会使用到的运行时数据区,其中有一些会随着虚拟机启动而创建,随着虚拟机退出而销毁。另外一些则是于线程一一对应的,这些与线程对应的数据区域会随着线程的开始而常见,随着线程的结束而销毁

image-20230127150633640

​ 灰色为单独线程私有的,红色为多个线程共享的

​ 每个线程:独立包括程序计数器,栈,本地栈

​ 线程间共享:堆,堆外内存【方法区】(永久带或元空间、代码缓存)

image-20230127150637532

​ 每个JVM只有一个Runtime实例。即为运行运行时环境,相当于内存结构中间的那个框:运行时环境

线程

​ 线程是一个程序的运行单元。JVM允许一个应用有多个线程并行的执行

​ 在HotspotJVM里,每个线程都与操作系统的本地线程直接映射

​ 当一个Java线程准备好执行以后,此时一个操作的本地线程也同时创建。Java线程执行终止后,本地线程也会回收

​ 操作系统负责所有线程的安排调度到任何一个可用的Cpu上。一旦本地线程初始化成功,他就会调用Java线程中的run()方法

JVM系统线程

​ 如果使用jcorsole或者是任何一个调试工具,都能看到在后台有许多线程在运行。这些后台线程不包括调用public void static mian(String[] args)的main线程以及所有这个main线程自己创建的线程

​ 这些主要的后台系统线程在Hotspot JVM里主要是以下几个:

虚拟机线程:这种线程的操作是需要JVM达到安全点才会出现。这些操作必须在不同的线程中发生的原因是他们都需要JVM达到安全点,这样堆才不会变化。这种线程的执行类型包括“stop-the-world”的垃圾收集,线程收集,线程挂起以及偏向锁撤销

周期任务线程:这种线程是时间周期事件的体现(比如中段),他们一般用于周期性操作的调度执行

GC****线程:这种线程对在JVM里不同类的垃圾收集行为提供了支持

编译线程:这种线程在运行时会将字节码编译成到本地代码

信号调度线程:这种线程接收信号并发送给JVM,在它内部通过调用适当的方法进行处理

程序计数器(PC寄存器)

PC Register介绍

image-20230127150645790

​ Jvm中的程序计数寄存器(Program Counter Register)中,Register的命运源于CPU寄存器,寄存器存储指令相关的线程信息。CPU只有把数据装载到寄存器才能够运行

​ 这里,并非是广义上所指的物理寄存器,或许将其翻译为PC计数器(或指令计数器)会更加贴切(也称为程序钩子),JVM中的PC寄存器是对物理PC寄存器的一种抽象模式

作用

​ PC寄存器用来存储指向下一条指令的地址,也即将要执行引擎读取下一条指令

image-20230127150650111

​ 他是一块很小的内存空间,几乎可以忽略不计。也是运行速度最快的存储区域

​ 在JVM规范中,每个线程都有它的程序计数器,是线程私有的,生命周期与线程的生命周期保持一致

​ 任何时间一个线程都只有一个方法在执行,也就是所谓的当前方法。程序计数器会存储当前线程正在执行的Java方法的JVM指令地址;或者,如果是在执行native()方法,则是未指定(undefined)

​ 他是程序控制流程的指示器,分支、循环、跳转、异常处理、线程恢复等基础功能都需要依赖这个计数器来完成

​ 字节码解释器工作时就是改变这个计数器的值来选取下一条需要执行的字节码指令

​ 它的唯一一个在Java虚拟器规范中没有规定任何OutOtMemoryError情况的区域

GC**、OOM**

两个常见的问题

使用PC寄存器存储字节码指令地址有什么用?

​ 因为CPU需要不停的切换各个线程,这时候切换回来以后,就得知道接着从哪里开始继续执行

为什么使用PC寄存器记录当前线程的执行地址呢?

​ JVM字节码解释器就需要通过改变PC寄存器的值来明确下一条应该执行什么样的字节码指令

PC****寄存器为什么会被设定为线程私有?

​ 我都知道所谓的多线程在一个特定的时间内只会执行其中某一个线程的方法,CPU会不停的做任务切换,这样必然导致经常中断或恢复,如何保证分毫无差呢?为了能够准确的记录各个线程正在执行的当前字节码指令地址,最好的办法自然是为每一个线程设置一个PC寄存器,这样一来各个线程之间便可以进行独立计算,从而不会出现相互干扰的情况

​ 由于CPU时间片轮限制,众多线程在并发执行过程中,任何一个确定的时刻,一个处理器或多核处理器中的一个内核,只会执行某个线程中的一条指令

CPU时间片

​ Cpu时间片即CPU分配给各个程序的时间,每个线程被分配一个时间端,称作它的时间片

​ 在宏观上:我们可以打开多个应用程序,每个程序并不悖,同时运行

​ 在微观上:由于只有一个cpu,一次只能处理程序要求的一部分

​ 如何处理公平,一种方法就是引入时间片,每个程序轮流执行

image-20230127150655292

虚拟机栈

概述

​ 由于跨平台性的设计,java的指令都是根据栈来设计的。不同的平台CPU架构不同,所以不能设计为基于寄存器的

​ 优点是跨平台,指令集小,编译容易实现,缺点是性能下降,实现同样的功能需要更多的指令

内存中的栈与堆

​ 栈是运行时的单位,而堆是存储的单位

​ 即:栈解决程序的运行的问题,即程序如何执行,或者说如何处理数据。堆解决的数据存储的问题,即数据怎么放,放在那里

image-20230127150701259

虚拟机栈基本内容
Java虚拟机栈是什么?

Java虚拟机栈(Java Virtual Machine Stack),早期也叫Java栈。

​ 每个线程在创建时都会创建一个虚拟机栈,其内部保存一个个栈帧(Stack Frame),对应着一次次的Java方法调用

​ 是线程私有的

生命周期

​ 生命周期和线程一致

作用

​ 主管Java程序的运行,它保存方法的局部变量(8种基本数据类型、对象的引用地址)、部分结果,并参与方法的调用和返回

​ 局部变量 VS 成员变量(或属性)

​ 基本数据变量 VS 引用类型变量(类、数组、接口)

栈的特点

​ 栈是一种快速有效的分配存储方式,访问速度仅次于程序计数器

​ JVM直接对Java栈的操作只有两个

​ 每个方法执行,伴随着进栈

​ 执行结束后出栈工作

​ 对于栈来说不存在垃圾回收问题

​ GC;OOM

栈中可能会出现的异常

​ Java虚拟机规范允许Java的栈大小是动态的或是固定不变的

​ 如果采用固定大小的Java虚拟机栈,那每一个线程的Java虚拟机栈容量可以在线程创建的时候独立选定。如果线程请求分配的栈容量超过Java虚拟机栈允许的最大容量,Java虚拟机会抛出一个StackOverflowError

​ 如果Java虚拟机栈可以动态扩展,并且在尝试扩展的时候无法申请到足够的内存,或者在创建的新的线程的时候没有足够的内存去创建对应的虚拟机栈,哪Java虚拟机将会抛出一个OutOfMemoryError异常

设置栈内存大小

​ 可以使用参数-Xss 选项来设置线程最大栈空间,栈的大小决定了函数调用的最大深度

栈的存储单位

栈中存储什么?

​ 每个线程都有自己的栈,栈中的数据都是以栈帧(Stack Frame)的格式存在

​ 在这个线程上正在执行的每个方法都各自对应一个栈帧(Stack Frame)

​ 栈帧是一个内存区块,是一个数据集,维系着方法执行过程中的各种数据信息

栈的运行原理

​ JVM直接对Java栈的操作只有两个,就是对栈的压栈和弹栈,遵循“先进后出”/“后进先出”的原则

​ 在一条活动线程中,一个时间点上,只会有一个活动的栈帧。即只有当正在执行的方法的栈帧(栈顶栈帧)是有效的,这个栈帧被称为当前栈帧(Current Frame),与当前栈帧相对应的方法就是当前方法(Current Method),定义这个方法的类就是当前类(Current Class)

​ 执行引擎运行的所有字节码指令只针对于当前栈帧进行操作

​ 如果在该方法中调用了其他方法,对应的新的栈帧会被创建出来,放在栈的顶端,成为新的当前帧

​ 不同线程中包含的栈帧是不允许存在相互引用的,即不可能在一个栈帧之中引用另外一个线程的栈帧

​ 如果当前方法调用了其他方法,方法返回之际,当前栈帧会传回此方法的执行结果给前一个栈帧,接着,虚拟机会丢弃当前栈帧,使得前一个栈帧重新成为当前栈帧

​ Java方法有两种返回函数的方式,一种是正常的函数返回,使用return指令;另一种是抛出异常。不管使用那种方式,都会导致栈帧被弹出

栈帧的内部结构

​ 每个栈帧中存储着:

​ 局部变量表(Local Variables)

​ 操作数栈(Operand Stack)(或表达式栈)

​ 动态连接(Dynamic Linking)(或指向运行时常量池的方法引用)

​ 方法返回地址(Return Address)(或方法正常退出或者异常退出的定义)

​ 一些附加信息

​ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-UIksPg2P-1674808035286)(https://gitee.com/nfzwycmdxz/fax_img/raw/master/jvm/image-20230127150721200.png)]

局部变量表(Local Variables)

​ 局部变量表也被称为局部变量数组或本地变量表

​ 定义一个数字数组,主要用于存储方法参数和定义在方法内的局部变量,这些数据类型包括各类基本数据类型、对象引用(reference),以及returnAddress类型

​ 由于局部变量表是建立线程的栈上,是线程的私有数据,因此不存在数据安全问题

​ 局部变量表所需的容量大小是在编译期确定下来的,并保存在方法的Code属性的maximum local variables数据项中。在方法运行期间是不会改变局部变量的大小的

​ 方法嵌套调用的次数由栈的大小决定。一般来说,栈越大,方法嵌套调用次数越多。对于一个函数而言,它的参数和局部变量越多,使得局部变量表膨胀,它的栈帧就越大,以满足方法调用所需传递的信息增大的需求。进而函数调用就会占用更多的栈空间,导致其嵌套调用次数就会减少

​ 局部变量表中的变量只在当前方法调用中有效。在方法执行时,虚拟机通过使用局部变量表完成参数值到参数变量列表的传递过程。当方法调用结束后,随着方法栈的销毁,局部变量表也会随之而销毁

关于Slot的理解

​ 参数值的存放总是在局部变量数组的index0开始,到数组长度-1的索引结束

​ 局部变量表,最基本的存储单元是Slot(变量槽)

​ 局部变量表中存放编译期可知的各种基本数据类型(8种),引用类型(reference),returnAddress类型变量

​ 在局部变量表里,32为以内的类型只占用一个slot(包括returnAddress类型),64位类型(long和double)占用两个slot

​ Byte、short、char、flat在存储前被转换为int,double也被转换为int,0表示true,非0表示true

​ Long 和double则占据两个Slot

​ JVM会为局部变量表中的每一个Slot都分配一个访问索引,通过这个索引即可成功访问到局部变量表中指定的局部变量

​ 当一个实例方法被调用的时候,它的方法参数和方法体内部定义的局部变量将会按照顺序被复制到局部变量表中的每一个Slot上

​ 如果需要访问局部变量表中一个64bit的局部变量时,只需要使用前一个索引即可。(比如:访问long或double类型变量)

​ 如果当前帧是由构造方法或者实例方法创建的,那么该对象引用this将会存放在index为0的slot处,其余的参数按照参数表顺序继续排列

image-20230127150736607

Slot的重复利用的问题

​ 栈帧中的局部变量表中的槽位是可以重复利用的,如果一个局部变量过了其作用域,那么在其作用域之后申明的新的局部变量就很有可能会复用过期局部变量的槽位,从而达到节省资源的目的

静态变量与局部变量的对比

​ 参数表分配完毕后,在根据方法体内定义的变量的顺序和作用域分配

​ 我们直到类变量表有两次初始化的机会,第一次是在“准备阶段”,执行系统初始化,对类变量设置零值,另一次则是在“初始化”阶段,赋予程序员在代码中定义的初始值

​ 和类变量初始化不同的是,局部变量表不存在系统初始化的过程,这意味着一旦定义了局部变量则必须人为的初始化,否则无法使用

在栈帧中,与性能调优关系最为密切的部分就是前面提到的局部变量表。在方法执行时,虚拟机使用局部变量完成方法传递

局部变量表中的变量也是重要的垃圾回收根节点,只要被局部变量表中直接引用或者间接引用的对象都不会被回收

操作数栈(Operand Stack)

​ 每一个独立的栈帧中除了包含局部变量表以外,还包含一个后进先出(Last-In-First-Out)操作数栈,也可以称为表达式栈(Expression Stack)

​ 操作数栈,在方法执行过程中,根据字节码指令,往栈中写入数据或提取数据,即入栈(push)/出栈(pop)

​ 某些字节码指令将值压入操作数栈,其余的字节码指令将操作数取出栈。使用他们后再把结果压入栈

​ 比如:执行复制,交换,求和等操作

​ 如果被调用的方法带有返回值的话,其返回值将会被压入当前栈帧的操作数栈中,并更新PC寄存器中的下一条需要执行的字节码指令

​ 操作数栈中元素的数据类型必须与字节码指令的序列严格匹配,这由编译器在编译期间进行验证,同时在类加载过程中的类检验阶段的数据分流阶段要再次验证

​ 另外,我们说Java虚拟机的解释引擎是基于栈的执行引擎,其中的栈指的是操作数栈

​ 操作数栈,主要用于保存计算过程的中间结果,同时作为计算过程中变量临时的存储空间

​ 操作数栈就是JVM执行引擎的一个工作区,当一个方法刚开始执行的时候,一个新的栈帧也会随之被创建出来,这个方法的操作数栈是空的

​ 每一个操作数栈就会拥有一个明确的栈深度用于存储数值,其所需的最大深度在编译期就定义好了,保存在方法的Code属性中,为 max_stack的值

​ 栈中的任何一个元素都是可以任意的java数据类型

​ 32bit的类型占用一个栈单位深度

​ 64bit的类型占用两个栈单位深度

​ 操作数栈并非采用访问索引的方式来进行数据访问的,而是只能通过标准的入栈(push)和出栈(pop)操作来完成一次数据访问

​ 如果被调用的方法带有返回值的话,其返回值将会被压入当前栈帧的操作数栈中,并更新,并更新PC寄存器中的下一条需要执行的字节码指令

​ 操作数栈中元素的数据类型必须与字节码指令的序列严格匹配,这由编译器在编译期间进行验证,同时在类的加载过程中的类检验阶段的数据流分析阶段要再次验证

​ 另外,我们说Java虚拟机的解释引擎是基于栈的执行引擎,其中的栈指的就是操作数栈

栈顶缓存技术(Top-of-StackCashing)技术

​ 前面提到过,基于栈式架构的虚拟机所使用的零地址指令更加紧凑,但完成一项操作的时候必然需要更多的入栈和出栈指令,这同时也就意味着将需要更多的指令分派(instruction dispatch)次数和内存 读/写次数

​ 由于操作数是存储在内存中的,因此频繁的执行内存读/写操作必然会影响执行速度。为了解决这个问题,HotSpot JVM设计者们提出了栈顶缓存(ToS,Top-of-Stack Cashing)技术,将栈顶元素全部缓存在物理CPU寄存器中,以此降低对内存的读/写次数,提升执行引擎的执行效率

动态连接(Dynamic Linking)

动态连接(或指向运行时常量池的方法引用)

​ 每一个栈帧内部都包含一个指向运行时常量池中该栈帧所属方法的引用。包含这个引用的目的就是为了支持当前方法的代码能够实现动态连接(Dynamic Lincking)。比如:invokedynamic指令

​ 在Java源文件被编译到字节码文件中时,所有的变量和方法引用都作为符号引用(Symbolic Reference)保存在class文件的常量池里。比如:描述一个方法调用了另外的其他方法时,就是通过常量池中指向方法的符号引用来表示的,那么动态连接的作用就是为了将这些符号引用转换为调用方法字节引用

为什么要使用常量池

​ 常量池的作用,就是为了提供一些符号和常量,便于指令的识别

方法的调用:解析与分派

在JVM中,将符号引用转换为调用方法的直接引用与方法的绑定机制有关

静态链接

​ 当一个字节码文件被装载进JVM内部时,如果被调用的目标方法在编译器可知,且运行期保持不变。这种情况下将调用方法的符号引用转换为直接引用的过程称之为静态链接

动态链接

​ 如果被调用的方法在编译期无法被确定下来,也就是说,只能够在程序运行期将调用方法的符号引用转换为直接引用,由于这种引用转换过程具备动态性,因此也就被称为动态链接

对应的方法的绑定机制为:早期绑定(Early Binding)和晚期绑定(Late Binding)。绑定是一个字段、方法或者类在符号引用被替换为直接引用的过程,这仅仅发生一次

早期绑定

​ 早期绑定就是指被调用的目标方法如果在编译期可知,且运行期保持不变时,即可将这个方法与所属的类型进行绑定,这样一来,由于明确了被调用的目标方法究竟是哪一个,因此也就可以使用静态链接的方式将符号引用转换为直接引用

晚期绑定

​ 如果被调用的方法在编译期间无法被确定下来,只能够在程序运行期根据实际的类型绑定相关的方法,这种绑定方法也就被称为晚期绑定

​ 随着高级语言的横空出世,类似于Java一样的基于面向对象的编程语言如今越来越多,尽管之类编程语言在风格上存在一定的差别,但是他们彼此之间始终保持着一个共性,那就是都支持封装,集成,多态等面向对象特性,既然这一类编程语言具备多态性,那么自然也就具备早期绑定和晚期绑定两种绑定方式

​ Java中任何一个普通方法其实都具备虚函数的特征,他们相当于C++语言中的虚函数(C++中则需要使用关键字virtual来显示定义)。如果Java程序中不希望某个方法拥有虚函数的特征时,则可以使用关键字

方法的调用:虚方法于非需方法
非虚方法

​ 如果方法在编译期就确定了具体的调用版本,这个版本在运行时是不可变的。这样的方法称为非虚方法

​ 静态方法,私有方法,final方法,实例构造器,父类方法都是非虚方法

​ 其他方法称为虚方法

​ 子类对象的多态性的使用前提是:① 类的继承关系 ② 方法重写

虚方法
虚拟机中提供的方法调用指令
非虚 普通调用指令

​ Invokestatic:调用静态方法,解析阶段确定唯一方法版本

​ Invokespecial:调用方法、私有及父类方法,解析阶段确定唯一方法版本

​ Invokevirtual:调用所有虚方法

​ Invokeinterface:调用接口方法

动态调用指令

​ Invokedynamic:动态解析出需要调用的方法,然后执行

​ 前四条指令固化在虚拟机内部,方法的调用执行不可认为干预,而invokedynamic指令则支持由用户确定方法版本。其中invokestatic指令和invokespecial指令调用的方法称为非虚方法,其余的(final修饰的除外)称为虚方法

方法的调用:关于invokedynamic指令

​ JVM字节码指令一直比较稳定,一直到Java7中才增加了一个invokedynamic指令,这是Java为了实现【动态类型语言】支持而做的一种改进

​ 但是在Java7中并没有提供直接生成invokedynamic指令的方法,需要借助ASM这种底层字节码工具来产生invokedynamic指令。直到Java8的Lambda表达式的出现,invokedynamic指令的生成,在java中才有了直接的生成方式

​ Java7中增加了动态语言类型的支持的本质是对Java虚拟机规范的修改,而不是对Java语言规则的修改,这一块相对来讲比较复杂,增加了虚拟机中的方法调用,最直接的收益者就是运行在Java平台的动态语言的编译器

动态类型的语言和静态类型的语言

​ 动态类型语言和静态类型语言两者的区别就在于对类型的检查是在编译器还是在运行期,满足前者就是静态类型语言,满足后者就是动态类型语言

​ 说的再直白一点就是,静态类型语言是判断变量自身类型信息;动态类型语言是判断变量值的类型信息,变量没有类型信息,变量值才有类型信息,这就是动态语言的一个重要特性

方法调用:方法重写的本质
Java语言中方法重写的本质

​ 找到操作数栈顶的第一个元素所执行的对象的实际类型,记作c

​ 如果在类型c中找到与常量中描述符合简单名称都相符的方法,则进行访问权限校验,如果通过则返回这个方法的直接引用,查找过程结束;如果不通过,则返回java.lang.IllegalAccessError异常

​ 否则,按照继承关系从上往下依次对c的各个父类进行第二步的搜索和验证过程。

​ 如果始终没有找到合适的方法,则抛出java.lang.AbstractMethodError异常

IllegalAccessError介绍:

​ 程序试图访问或修改一个属性或调用一个方法,这个属性或方法,你没有权限访问。一般的,这个会引起编译器异常。这个错误如果发生在运行时,就说明一个类发生了不兼容的改变

方法的调用:虚方法表

​ 在面向对象的编程中,会很频繁的使用到动态分派,如果在每次动态分派的过程中都需要重新在类的方法元数据中搜索合适的目标的话就可能影响到执行效率。因此,为了提高性能,JVM采用在类的方法区建立一个虚方法表(virtual method table)(非虚方法不会出现在表中)来实现。使用索引来代替查找

​ 每个类中都有一个虚方法表,表中存放着各个方法的实际入口

​ 那么虚方法表什么时候被创建?

​ 虚方法表会在类加载的链接阶段被创建并开始初始化,类的初始值准备完成之后,JVM会把该类的方法表也初始化完毕

方法返回地址(Return Address)

​ 存放调用该方法的PC寄存器的值

​ 一个方法的结束,有两种方式

​ 正常指向完成

​ 出现未处理的异常,非正常退出

​ 无论通过那种方式退出,在方法退出后都返回到该方法被调用的位置。方法正常退出时,调用者的PC计数器的值最为返回值地址,即调用该方法的指令的下一条指令的地址。而通过异常退出的,返回地址是要通过异常表来确定,栈帧中一般不会保持这部分信息

​ 当一个方法开始执行后,只有两种方式可以退出这个方法

​ 执行引擎遇到一个方法返回的字节码指令(return),会有返回值传递给上层的方法调用者,简称正常完成出口

​ 一个方法在正常调用完成之后究竟需要使用哪一个返回指令还需要根据方法返回值的实际数据类型而定

​ 在字节码指令中,返回指令包括ireturn(当返回值是boolean、byte、char、short和int类型时使用)、lreturn、freturn、dreturn以及areturn,另外还有一个return指令供声明为void的方法、实例初始化方法、类和接口的初始化方法使用

​ 在方法执行过程中遇到了异常(Exception),并且这个异常没有在方法内处理,也就是只要在本地方法的异常表中没有搜索到匹配的异常处理器,就会导致方法退出

​ 方法执行过程中抛出异常时的异常处理,存储在一个异常处理表,方便在发生异常的时候找到处理异常的代码

​ 本质上,方法的退出就是当前栈帧出栈的过程。此时,需要恢复上层方法的局部变量表、操作数栈、将返回值压入调用者栈帧的操作数栈、设置PC寄存器值等,让调用者方法继续执行下去

​ 正常完成出口和异常完成出口的区别在于:通过异常完成出口退出的不会给他上层调用者产生任何的返回值

一些附加信息

​ 。。。

题目

举例栈溢出的情况?(StackOverflowError)

​ 通过-Xss设置栈的大小

调整栈大小,就能保证不出现溢出吗?

​ 不能

分配的栈的内存越大越好吗?

​ 不是

垃圾回收是否会涉及到虚拟机栈?

​ 不会

ErrorGC
程序计数器(PC Register)×
虚拟机栈(Java Virtual Machine Stack)×
本地方法栈(Native Meth Stack)×
堆(heap)
方法区(Mathod Area)
方法中定义的局部变量是否线程安全?

​ 如果是返回的,或者是传入的则为线程不安全

本地方法栈(Native Method Stack)

​ Java虚拟机栈用于管理Java方法的调用,而本地方法栈用于管理本地方法的调用

​ 本地方法栈,也是私有线程

​ 允许被实现成固定或者是可动态扩展的内存大小。(在内存溢出方面是相同的)

​ 如果线程请求分配的栈容量超过本地方法栈允许的最大容量,Java虚拟机将会抛出一个StackOverflowError异常

​ 如果本地方法栈可以动态扩展,并且在尝试扩展的时候无法申请到足够的内存,或者在创建新的线程时没有足够的内存去创建对应的本地方法栈,那么Java虚拟机将会抛出一个OutOfOverflowError异常

​ 本地方法是使用C语言实现的

​ 它的具体做法是Native Method Stack 中登记native方法,在Execution Engine执行时加载本地方法库

​ 当某个线程调用一个本地方法时,他就进入了一个全新的并且不再受虚拟机限制的世界,它和虚拟机拥有同样的权限

​ 本地方法可以通过本地方法接口来访问虚拟机内部的运行时数据区

​ 它甚至可以直接使用本地处理器中的寄存器

​ 直接从本地内存的堆中分配任意数量的内存

​ 并不是所有方法的JVM都支持本地方法。因为Java虚拟机规范并没有明确要求本地方法的栈使用语言、具体实现方式、数据结构等。如果JVM产品不打算支持native方法,也可以无需实现本地方法栈

​ 在Hotspot JVM中,直接将本地方法栈和虚拟机栈合二为一

堆(teap)

堆的核心概述

​ 一个JVM实例只存在一个堆内存,堆也是Java内存管理的核心区域

​ Java堆内存在Jvm启动的时候被创建,其空间大小也就确定了。是JVM管理的最大一块内存空间

​ 堆内存的大小是可以调节的

​ 《Java虚拟机规范》规定,堆可以处于物理上连续的内存空间中,但在逻辑上它应该被视为连续的

​ 所有的线程共享Java堆,这里还可以划分线程私有的缓冲区(Thread Local Allocation Buffer, TLAB)

​ 《Java虚拟机规范》中对Java堆的描述是:所有的对象实例以及数组都应当在运行时分配在堆上。(The heap is the run-time data area from which memroy for all class instances and arrays is allocated)

​ 这里我要说的是:“几乎”所有的对象实例都在这里分配内存。—从实际使用角度看

​ 数组和对象和对象可能永远都不会存储在栈上,因为栈中保存引用,这个引用指向对象或数组在堆中的位置

​ 在方法结束后,堆中的对象不会马上被移除,仅仅在垃圾收集器的时候才会被移除

​ 堆,是GC(Garbage Collection,垃圾收集器),执行垃圾回收的重点区域

​ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-9dscSSoa-1674808035289)(https://gitee.com/nfzwycmdxz/fax_img/raw/master/jvm/image-20230127150801827.png)]

内存细分

​ 现代垃圾收集器大部分都基于分代收集理论设计,堆空间细分为:

​ Java 7及之前内存逻辑上分为3部分:新生区 + 养老区 + 永久区

​ Yong Generation Space 新生代

​ 又被划分为Eden区和Survivor区

​ Tenure generation space 老年代

​ Permanent Space 永久代

​ Java 8及之后堆内存逻辑上分为三部分:新生代 + 老年代 + 元空间

​ Yong Generation Space 新生代

​ 又被划分为Eden区和Survivor区

​ Tenure generation space 老年代

​ Meta Space 元空间

设置堆内存大小与OOM

​ Java堆区用于存储Java对象实例,那么堆的大小在Java启动的时候就以及设定好了,大家可以通过选项“-Xmx“和”-Xms“来进行设置

​ “-Xms”用于表示堆区的起始内存,等价于-XX:InitialHeapSize

​ “-Xmx”则用于表示堆区的最大内存,等价于-XX:MaxHeapSize

​ Xms 用来设置堆空间(年轻代 + 老年代)的初始内存大小

​ -X 是Jvm的运行参数

​ ms是memroy start

​ Xmx用来设置堆空间(年轻代 + 老年代)的最大内存大小

​ 默认堆空间的大小

​ 一旦堆内存中的内存大小超过“-Xmx”所指定的最大内存时,将会抛出OutOfMemoryError异常

​ 通常会将 -Xms和-Xmx两个参数配置相同的值,其目的是为了能够在Java垃圾回收机制清理完成后不需要重新分割计算堆区的大小,从而提高性能

​ 默认情况下,初始内存大小:物理电脑内存大小 / 64

​ 最大内存大小:物理电脑内存大小 / 4

​ 开发中建议将初始堆内存和最大堆内存设置成相同的值

​ 如何查看设置参数的方式

​ Jps / jstat -gc 进程Id

​ -XX: +PrintGCDetails

年轻代与老年代

​ 存储在JVM中的Java对象可以分为两类

​ 一类是声明周期较短的瞬间时对象,这类对象的创建和消亡都非常迅速

​ 另外一类对象的生命周期却非常长,在某些极端的情况下还能于JVM生命周期保持一致

​ Java堆区进一步细分的话,可以划分为年轻代(YoungGen)和老年代(OldGen)

​ 其中年轻代又可以划分为Eden空间,Survivor0空间和Survirorl空间(有的也叫做from区,to区

image-20230127150809492

新生代与老年代

​ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-SqBCtySI-1674808035291)(https://gitee.com/nfzwycmdxz/fax_img/raw/master/jvm/image-20230127150813078.png)]

​ 配置新生代与老年代在堆内存的占比

​ 默认-XX:NewRatio=2,表示新生代占1,老年代占2,新生代占整个堆的1/3

​ 可以修改-XX:NewRatio=4,表示新生代占1,老年代占4,新生代占整个堆的1/5

​ -NewRatio:设置新生代与老年代的比例。默认比例 1 : 2

​ 在HostSpot中,Eden空间和另外两个Survivor空间缺省所占的比例是 8 :1 :1

​ 当然开发人员可以通过选项“-XX:SurvivorRatio”调整这个空间比例。比如-XX:SurvivorRatio=8“

​ 几乎大部分的Java对象都是在Eden区被创建出来的

​ 绝大部分的Java对象的销毁都在新生区进行了

​ IBM公司的专门研究表明,新生代中80%的对象都是“朝生夕死“的

​ 可以使用选项“-Xmn”设置新生代最大内存大小

​ 这个参数一般使用默认值就可以了

​ -XX:NewRatio:设置新生代与老年代的比例。默认值是2

-XX:SurvivorRatio**:设置新生代中Eden区与Survivor区的比例**

​ -XX:UseAdaptiveSizePolicy:关闭自适应的内存分配策略

​ -Xmn: 设置新生代的空间的大小

图解对象分配过程

​ 为新对象分配内存是一件非常严谨和辅助的任务,JVM的设计者们不仅仅需要考虑内存如何分配,在哪里分配等问题,并且由于内存分配算法与内存回收机制算法密切相关,所以需要考虑GC执行完内存回收后是否会在内存空间中产生内存碎片

\1. New的对象先放在Eden,此区有大小限制

\2. 当Eden的空间填满时,程序又需要创建对象,JVM的垃圾回收器将对Eden进行垃圾回收(Minor GC),将Eden中的不再被其他对象所引用的对象进行销毁。再加载新的对象放到Eden

\3. 然后将Eden中剩余对象移动到Survivor0

\4. 如果再次触发到垃圾回收,此时上次幸运存下来放到Survivor0的,如果没有回收,就会放到Survivor1

\5. 如果再次经历垃圾回收,此时会重新存放到Survivor0,接着再去Survivor1

\6. 啥时候能去养老去呢?可以设置次数。默认为15次

a) 可以设置参数:-XX:MaxTenuringThreshold=进行设置

\7. 在养老区,相对悠闲。当养老去内存不足的时候,再次触发GC:Major GC,进行养老区的内存清理

\8. 若养老区执行了Major GC后发现依然无法进行对象的保存,就会产生OOM异常

Java.lang.OutOfMemoryError:Java heap space

总结

​ 针对幸存者s0,s1区的总结:复制之后有交换,谁空谁是to

​ 关于垃圾回收:频繁在新生区收集,很少在养老区收集,几乎不在永久区/元空间

​ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-LE70cKKC-1674808035292)(https://gitee.com/nfzwycmdxz/fax_img/raw/master/jvm/image-20230127150820516.png)]

MinorGC、Major GC、Full GC

​ JVM在进行GC时,并非每次都对上面三个内存区域(新生代、老年代、元空间)一起回收的,大部分时候回收的都是指新生代

​ 针对HotSpot VM的实现,它里面的GC按照回收区域分为两种大类型:一种是部分收集器(Partial GC),一种是整堆收集(Full GC)

l 部分收集:不是完整收集整个Java堆的垃圾收集。其中又分为:

n 新生代收集(Minor GC / Yong GC):只是新生代(Eden、s0、s1)的垃圾收集

n 老年代收集(Major GC / Old GC):只是老年代的垃圾收集

u 目前,只有CMS GC会有单独收集老年代的行为

u 注意:很多时候Major GC和Full GC混淆使用,需要具体分辨是老年代回收还是整堆回收

n 混合收集(Mixed GC):收集整个新生代以及部分老年代的垃圾收集

u 目前,只有G1 GC会有这种行为

l 整堆收集(Full GC):收集整个Java堆和方法区的垃圾收集

年轻代GC(Minor GC)触发机制:

​ 当年轻代空间不足时,就会触发Minor GC,这里的年轻代满指的是Eden代满,Survivor满不会引发GC。(每次Minor GC会清理年轻代的内存)

​ 因为Java对象大多都具备着朝生夕死的特性,所以Minor GC非常频繁,一般回收速度也比较快。这一定义即清晰又易于理解

​ Minor GC会引发STW,暂停其他用户的线程,等垃圾回收结束,用户线程才恢复运行

​ 老年代GC(Major GC / Full GC)触发机制:

​ 指发生在老年代的GC,对象从老年代消失时,我们说“Major GC”或”Full GC”发生了

​ 出现了Major GC,经常会伴随着至少一次的Minor GC(但非绝对的,在Parallel Scavenge收集器的收集策略里就有直接进行Major GC的策略选择过程)

​ 也就是在老年代空间不足的时候,会先尝试触发Minor GC。如果之后空间还不足,则触发Major GC

​ Major GC的速度一般会比Minor GC慢上10倍以上,STW时间更长

​ 如果Major GC后,内存还是不足,就报OOM

​ Full GC的触发机制

​ 触发Full GC执行的情况有如下5种:

​ 调用System.gc()时,系统建议执行Full GC,但是不是必然执行

​ 老年代空间不足

​ 方法区空间不足

​ 通过Minor GC后进入老年代的平均大小大于老年代的可用内存

​ 由Eden区,survivor space0(From Space) 区向survivor space1 (To Space)区复制时,对象大小大于To Space可用内存,则把该对象转存到老年代,且老年代的可用内存小于该对象大小

​ 说明:full GC是开发或调优中尽量要避免的。这样暂停时间会短一点

​ 查看GC日志:-XX:+PrintGCDetails

堆空间的分代思想

​ 为什么需要把Java堆分代?不分代就不能正常工作了吗?

​ 经研究表明,不同对象的生命周期不同。70% ~ 90%的对象是临时对象

​ 新生代:有Eden、两块大小相同的Survivor(又称为from / to,s0 / s1)构成to总为空

​ 老年代:存放新生代中经历多次GC仍然存活的对象

​ 其实完全可以,分代的唯一理由就是优化GC性能。如果没有分代,那所有的对象都在一块,GC的时候要找到哪些对象没用,这样就会对堆的所有区域进行扫描。而很多对象都是朝生夕死的,如果分代的话,把新创建的对象放到某一地方,当GC的时候,把这块存储“朝生夕死“对象的区域进行回收,这样就会腾出来很大的空间出来

内存分配策略

​ 如果对象在Eden出生并经过第一次MinorGC后仍然存活,并且能被Survivor容纳的话,将被移动到Survivor空间中,并将对象年龄设为1。对象在Survivor区中每熬过一次Minor GC,年龄就增长1岁,当它的年龄增加到一定程度(默认为15岁,其实每个JVM、每个GC都有所不同)时,就会被晋升到老年代中

​ 对象晋升老年代的年龄阈值,可以通过选项-XX:MaxTenurigThreshold来设置

​ 针对不同年龄段的对象分配原则如下

​ 优先分配到Eden

​ 大对象直接分配到老年代

​ 尽量避免程序中出现过多的大对象

​ 长期存活的对象分配到老年代

​ 动态对象年龄判断

​ 如果Survivor区中相同年龄的所有对象大小的总和大于Survivor空间的一半,年龄大于或等于该年龄的对象可直接进入老年代,无须等到MaxTenuringThreshold中要求的年龄

​ 空间分配担保

​ -XX:HandlePromotionFailure

为对象分配内存:TLAB

​ 为什么要有TLAB(Thread Loacl Allocation Buffer)?

​ 堆区是线程共享的一个区域,任何线程都可以访问代堆区中的共享数据

​ 由于对象实例的创建在JVM中非常频繁,因此在并发环境下从堆区中划分内存空间是线程不安全的

​ 为了避免多个线程操作同一地址,需要使用加锁等机制,进而影响分配速度

​ 什么是TLAB

​ 从内存模型而不是垃圾收集的角度,对Eden区域继续进行划分,JVM为每个线程分配了一个私有缓存区域,它包含在Eden空间内

​ 多线程同时分配内存时,使用TLAB可以避免一系列的非线程安全问题,同时还能提升内存分配的吞吐量,因此我们可以将这种内存分配方式称为 快速分配策略

​ 据我所知所有OpenJDK衍生出来的JVM都提供了TLAB的设计

TLAB的再说明

​ 尽管不是所有的对象实例都能够在TLAB中成功分配内存,但JVM确实是将TLAB作为内存分配的首选

​ 在程序中,开发人员可以通过选项“-XX:UserTLAB”设置是否开启TLAB空间

​ 默认情况下,TLAB空间的内存非常小,仅占有整个Eden空间的1%,当然我们可以通过选项”-XX:TLABWasteTragetPercent”设置TLAB空间所占用Eden空间的百分比大小

​ 一旦对象在TLAB空间分配内存失败时,JVM就会尝试着通过加锁机制确保数据操作的原子性,从而直接在Eden空间中分配内存

堆空间的参数设置

​ -XX:+PrintFlagsInitial:查看所有的参数的默认初始值

​ -XX:+PrintFlagsFinal:查看所有的参数的最终值(可能会存在修改,不再是初始值)

​ -Xms:初始堆空间内存(默认为物理内存的1/64)

​ -Xmx:最大堆空间内存(默认为物理内存的1/4)

​ -Xmn:设置新生代的大小。(初始值及最大值)

​ -XX:NewRatio:配置新生代与老年代在堆结构的占比

​ -XX:SurvivorRatio:设置新生代中Eden和s0/s1空间占比

​ -XX:MaxTenuringThreshold:设置新生代垃圾的最大年龄

​ -XX:+PrintGCDetails:输出详细的GC处理日志

​ 打印gc简要信息:①-XX:+PrintGC ②-verbose:gc

​ -XX:HandlePromotionFailure:是否设置空间分配担保

​ 在发生Minir GC之前,虚拟机会检查老年代最大可用连续空间是否大于新生代所有对象的总空间

​ 如果大于,则此次Minor GC是安全的

​ 如果小于,则虚拟机会查看-XX:HandlePromotionFailure设置值是否允许担保失败

​ 如果HandlePromotionFailure = true,那么会继续检查老年代最大可用连续空间是否大于历次晋升到老年代的对象和平均大小

​ 如果大于,则尝试进行一次Minor GC,但这次Minor GC依然有风险

​ 如果小于,则改为进行一次Full GC

​ 如果HandlePromotionFailure = false,则改为进行一次Full GC

​ 在JDK6 Update24之后(JDK7),HandlePromotionFailure参数不会影响到虚拟机的空间分配担保策略,观察OpenJDK中的源码变化,虽然源码中还定义了HandlePromotionFailure参数,但是在代码中已经不会再使用它。JDK6 Update24之后的规则变为只要老年代的连续空间大于新生代对象总大小或者历次晋升的平均大小就会进行Minor GC,否则进行Full GC

堆是分配对象的唯一选择吗?

​ 在《深入理解Java虚拟机》中关于Java堆内存有这样一段描述

​ 随着JIT编译期的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化,所有的对象都分配到堆上也渐渐变得不那么“绝对”了

​ 在Java虚拟机中,对象是在Java堆中分配内存的,这是一个普遍的常识。但是,有一种特殊情况,那就是如果经过逃逸分析(Escape Analysis)后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配。这样就无需在堆上分配,也无需进行垃圾回收了。

这也是最常见的栈外存储技术

​ 此外,前面提到的基于OpenJDK深度定制的TaoBaoVM,其中创新的GCIH(GC invisible heap)技术实现off – heap,将生命周期较长的Java对象从heap中移至heap外,并且GC不能管理GCIH内部的Java对象,以此达到降低GC的回收频率和提升GC的回收效率的目的

逃逸分析概述

​ 如何将堆上的对象分配到栈,需要使用逃逸分析手段

​ 这是一种可以有效减少Java程序中同步负载均衡和内存堆分配压力的跨函数全局数据流分析

​ 通过逃逸分析,Java HotSopt编译器能够分析出一个新的对象的引用的使用范围从而决定是否要将这个对象分配到堆上

​ 逃逸分析的基本行为就是分析对象动态作用域

​ 当一个对象在方法中被定义后,对象只在方法内部使用,则认为没有发生逃逸

​ 当一个对象在方法中被定义后,它被外部方法所引用,则认为发生逃逸。例如作为参数传递到其他地方中

​ 没有发生逃逸的对象,则可以分配在栈上,随着方法执行的结束,栈空间就被移除

参数设置

​ 在JDK 6u23版本之后,HotSpot中默认就已经开启了逃逸分析

​ 如果使用的是较早的版本,开发人员可以通过

​ 选项“-XX:+DoEscapeAnalysis”显示开启逃逸分析

​ 通过选项“-XX:+PrintEscapeAnalysis”查看逃逸分析筛选结果

结论:开发中能使用局部变量开发,就不要使用在方法外定义

逃逸分析:代码优化

​ 使用逃逸分析,编译器可以对代码做如下优化:

栈上分配。将堆分配化为栈分配。如果一个对象在子程序中被分配,要使指向该对象的指针永远不会逃逸,对象可能是栈分配的候选,而不是堆分配

同步省略。如果一个对象被发现只能从一个线程被访问到,那么对于这个对象的操作可以不考虑同步

分离对象或标量替换。有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,那么对象的部分(或全部)可以不存储在内存,而是存储在CPU寄存器

代码优化

代码优化之栈上分配

​ JIT编译器在编译期间根据逃逸分析的结果,发现如果一个对象并没有逃逸出方法的话,就可能被优化成栈上分配。分配完成后,继续在调用栈内执行,最后线程结束,栈空间被回收,局部变量对象也被回收。这样就无须进行垃圾回收了

​ 常见的栈上分配的场景

​ 在逃逸分析中,已经说明了。分别是给成员变量赋值,方法返回值,实例引用传递

代码优化之同步省略(消除)

​ 线程同步的代价是相当高的,同步的后果就是降低了并发性和性能

​ 在动态编译同步块的时候,JIT编译器可以借助逃逸分析来判断同步快所使用的锁对象是否能够被一个线程访问而没有发布到其他线程。如果没有,那么JIT在编译这个同步代码块的时候就会取消这部分的代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫同步省略,也叫锁清除

代码优化之标量替换

​ 标量(Scalar)是指一个无法再分解成更小的数据的数据。Java中的原始数据类型就是标量

​ 相对的,那些还可以分解的数据叫做聚合量(Aggregate),java中的对象就是聚合量,因为它可以分解成其它聚合量和标量

​ 在JIT阶段,如果经过逃逸分析,发现一个对象不会被外界访问的话,那么经过JIT优化,就会把这个对象拆解成若干个其中包含若干个成员变量来代替。这个过程就是标量替换

​ 开启标量替换

​ 参数 -XX:EliminateAllocations:开启了标量替换(默认打开),允许将对象打散分配在栈上

参数

​ -server:启动Server模式,因为在Server模式下,才可以启用逃逸分析

​ -XX:+DoEscapeAnalysis:启用逃逸分析

​ -Xmx10m:指定了堆空间的大小

​ -XX:+PrintGC:将打印GC日志

​ -XX:+EliminateAllocations:开启了标量替换(默认打开),允许将对象打散分配在栈上,比如对象拥有id和name两个字段,那么这两个字段将会被视为两个独立的局部变量

逃逸分析小结:逃逸分析并不是十分成熟

​ 关于逃逸分析的论文在1999年就已经发表了,但直到JDK1.6才有实现,而且这项技术到如今也不是十分成熟

​ 其根本原因就是无法保证逃逸分析的性能消耗一定高于它的消耗。虽然经过逃逸分析可以做标量替换、栈上分配,和锁消除。但是逃逸分析自身也是需要进行一系列的复杂分析的,这其实是一个相对耗时的过程

​ 一个极端的例子,就是经过分析之后,发现没有一个对象是不逃逸的。那这个逃逸分析的过程就白白浪费掉了

​ 虽然这项技术并不是十分成熟,但是它也是及时编译优化技术中一个十分重要的手段

​ 注意到有一些观点,认为通过逃逸分析,JVM会在栈上分配那些不会逃逸的对象,这在理论上是可行的,但是取决于JVM设计者的选择。据我所知,Oracle HotSpot JVM中并未这么做,这一点在逃逸分析相关的文档里已经说明,所以可以明确所有的对象实例都创建在堆上

​ 目前很多书籍还是基于JDK7以前版本,JDK已经发生了很大的变化,intern字符串的缓存和静态变量并不是被转移到了元空间,而是直接被分配在堆上,所有这一点同样符合前面的结论:对象实例都是被分配在堆上

本章小结

​ 年轻代是对象延长、成长、消亡的区域,一个对象在这里产生、应用,最后被垃圾回收机制回收、结束生命

​ 老年代放置长生命周期的对象,通常都是从Survivor区域筛选拷贝过来的Java对象。当然,也有特殊情况,我们知道普通的对象会被分配在TLAB上;如果对象较大,JVM会直接分配在Eden的其他位置上;如果对象太大,完全无法在新生代找到足够长的连续空闲空间,JVM就会直接分配到老年代上

​ 当GC只发生在年轻代中,回收年轻代对象的行为被称为Minor GC。当GC发生在老年代的时候则被称为Major GC或者Full GC。一般的,Minor GC的发生频率要比Major GC高很多,即老年代中垃圾回收发生的频率将大大低于年轻代

方法区

堆、栈、方法区的交互关系

image-20230127150836983

方法区的理解

方法区在哪里

​ 《java虚拟机规范中》明确说明:“尽管所有的方法区在逻辑上是属于堆的一部分,但一些简单的实现可能不会选择去进行垃圾收集或进行压缩。” 但对HotSpotJVM而言,方法区还有一个别名叫做Non-Heap(非堆),目的就是要和堆分开

​ 所以,方法区看作是一块独立于Java堆的内存空间

方法区的基本理解

​ 方法区(Method Area)与java堆一样,是各个线程共享的内存区域

​ 方法区在JVM启动的时候被创建,并且它的实际物理内存空间中和Java堆区都一样都可以是不连续的

​ 方法区的大小,跟堆空间一样,可以选择固定的大小或者可扩展

​ 方法区的大小决定了系统可以保存多少个类,如果系统定义了太多的类,导致方法区溢出,虚拟机同样会抛出内存溢出错误:java.lang.OutOfMemoryError:PermGen space或者java.lang.OutOfMemoryError:Metaspace

​ 关闭JVM就会释放这个区域的内存。

Hotspot中方法区的演进过程

​ 在jdk7及以前,习惯上把方法区,称为永久带。Jdk8开始,使用元空间取代了永久带

​ 本质上,方法区和永久代并不等价。仅是对hostspot而言的。《Java虚拟机规范》对如何实现方法区,不做统一要求。例如:BEA Jrockit / IBM J9中不存在永久代的概念

​ 现在看来,当年使用永久带,不是好的idea。导致Java程序更容易OOM(超过

-XX:MaxPermSize上限)

​ 而到了JDK8,终于完全废弃了永久带的概念,改用Jrockit、J9一样在本地内存中实现的元空间(Metaspace)来代替

image-20230127150841909

​ 元空间的本质和永久带类似,都是对JVM规范中方法区的实现。不过元空间与永久代最大的区别就在于:元空间不在虚拟机设置的内存中,而是使用本地内存

​ 永久带、元空间二者并不只是名字变了,内部结构也放生了调整

​ 根据《Java虚拟机规范》的规定,如果方法区无法满足新的内存分配需求时,将抛出OOM异常

设置方法区大小与OOM

​ 方法区的大小不必是固定的,JVM可以根据应用的需求动态调整

Jdk7及以前

​ 通过-XX:PermSize来设置永久代初始分配空间。默认值是20.75M

​ -XX:MaxPermSize来设定永久代最大可分配空间。32位机器默认是64M,64位机器模式是82M

​ 当JVM加载的类信息容量超过了这个值,会报异常OutOfMemoryError:PermGenspace

Jdk8及以后

​ 元数据区大小可以使用参数-XX:MetaspaceSize和-XX:MaxMetaspaceSize指定,代替上述原有的两个参数

​ 默认值依赖于平台。Window下,-XX:MetaspaceSize约是21M,-XX:MaxMetaspaceSize的值是-1,即没有限制

​ 与永久代不同,如果不指定大小,默认情况下,虚拟机会耗尽所有的可用系统内存。如果元数据区发生溢出,虚拟机一样会抛出OutOfMemoryError:Metaspace

​ -XX:MetaspaceSize:设置初始元空间的大小。对于一个64位的服务端JVM来说,默认的-XX:MetaspaceSize值为21MB。这就是初始高水位线,一旦触及这个水位线,Full GC将会被触发并且卸载没用的类(即这些类对应的加载器也就不再存活),然后这个高水位线将会重置。新的高水位线的值取决于GC释放了多少元空间。如果释放的空间不足,那么在不超过MaxMetaspaceSize时,适当提高该值。如果释放空间过多,则适当降低该值

​ 如果初始化的高水位线设置过低,上述高水位线调整情况会发生很多次。通过垃圾回收的日志可以观察到Full GC多次调用。为了避免频繁的GC,建议将-XX:MetaspaceSize设置为一个相对较高的值

如何解决OOM?

​ 要解决OOM异常或heap space的异常,一般的手段是首先通过内存映像分析工具(如Eclipse Memory Analyzer)对dump出来的堆转存储快照进行分析,重点是确认内存中的对象是否是必要的,也就是要先分清楚到底是出现了内存泄漏(Memory Leak)还是内存溢出(Memory Overflow)

​ 如果是内存泄露,可进一步通过工具查看内存泄漏对象到GC Roots的引用链接。于是就能找到泄漏内存对象是通过怎样的路径与 GC Roots相关联并导致垃圾收集器无法自动回收它们的。掌握了泄漏对象的类型信息,以及GC Roots引用链接的信息,就可以比较准确的定位出泄漏内存的位置

​ 如果不存在内存泄漏,换句话说就是内存中的对象确实都还必须或者活着,那就应当检查虚拟机的堆参数(-Xmx与-Xms),与机器物理内存对比看是否还可以调大,从代码上检查是否存在某些对象生命周期过长、持有状态时间过长的情况,尝试减少程序运行期间内存的消耗

方法区(Method Area)存储什么?

​ 《深入理解Java虚拟机》书中对方法区(Method Area)存储内存描述如下:

​ 它用于存储已经被虚拟机加载的类型信息、常量、静态变量、即时编译器代码缓存

image-20230127150847366

类型信息

​ 对每个加载的类型(类Class、接口interface、枚举enum、注解annotation),JVM必须在方法区中存储以下类型信息

​ 这个类型的完整有效名称(全名 = 包名. 类名)

​ 这个类型直接父类的完整有效名(对于interface或是java.lang.Object,都没有父类)

​ 这个类型的修饰符(public, abstract, final的某个子集)

​ 这个类型直接接口的一个有序列表

域(Field)信息

​ JVM必须在方法区中保存类型的所有域相关信息以及域声明顺序

​ 域的相关信息包括:域名称、域类型、域修饰符(public, private, protected, static, final, volatile, transient的某个子集)

方法(Method)信息

​ JVM必须保存所有方法的以下信息,同域信息一样包括声明顺序:

​ 方法名称

​ 方法返回值类型(或void)

​ 方法参数的数量和类型(按顺序)

​ 方法的修饰符(public, private, protected, static, final, synchronized, native, abstract的一个子集)

​ 方法的字节码(bytecodes)、操作数栈、局部变量表及大小(abstract和native方法除外)

​ 异常表(abstract和native方法除外)

​ 每个异常处理的开始位置、结束位置、代码处理在程序计数器中的偏移地址、被捕获的异常类的常量池索引

Non-final的类变量

​ 静态变量和类关联在一起,随着类的加载而加载,他们成为类数据在逻辑上的一部分

​ 类变量被类的所有实例共享,即使没有类实例时,你也可以访问它

补充说明:全局常量:static final

​ 被声明为final的类变量的处理方法不同,每个全局常量在编译的时候就会被分配了

运行时常量池VS常量池

​ 方法区,内部包含了运行时常量池

​ 字节码文件,内部包含了常量池

​ 要弄清楚方法区,需要理解清楚ClassFile,因为加载类的信息都在方法区。

​ 要弄清楚方法区运行时常量池,需要理解清楚ClassFile中的常量池

image-20230127150853420

​ 一个有效的字节码文件中包含类的版本信息、字段、方法以及接口等描述信息外,还包含一项信息那就是常量池表(Constant Pool Table),包括各种字面量和对类型、域和方法的符号引用

为什么需要常量池

​ 一个Java源文件中的类、接口,编译后产生一个字节码文件。而java中的字节码需要数据支持,通常这种数据会很大以至于不能直接存到字节码里,换另一种方式,可以存到常量池,这个字节码包含了指向常量池的引用。在动态链接的时候会用到运行时常量池。

常量池中有什么

​ 几种常量池内部存储的数据类型包括

​ 数量值

​ 字符串值

​ 类引用

​ 字段引用

​ 方法引用

小结

​ 常量池,可以看作是一张表,虚拟机指令根据这张常量表找到要执行的类名,方法名,参数类型,字面量等类型

运行时常量池

​ 运行时常量池(Runtime Constant Pool)是方法区的一部分

​ 常量池(Constant Pool Table)是Class文件的一部分,用于存放编译期生成的各种字面量与符号引用,这部分内容将在类加载后存放到方法区的运行时常量池中

​ 运行时常量池,在加载类和接口到虚拟机后,就会创建对应的运行时常量池

​ JVM为每个已加载的类型(类或接口)都维护一个常量池。池中的数据像数组项一样,是通过索引访问的

​ 运行时常量池中包含多种不同的常量,包括编译期就已经明确的数值字面量,也包括到运行期解析后才能获得的方法或者字段引用。此时不再是常量池中的符号地址了,这里换为真实地址

​ 运行时常量池,相当于Class文件常量池的另一重要特征:具备动态性

​ 运行时常量池类似于传统编程语言中的符号表(symbol table),但是它所包含的数据却比符号表要更加丰富一些

​ 当创建类或接口的运行时常量池时,如果构造运行时常量池所需的内存空间超过了方法区所能提供的最大值,则JVM会抛出OutOfMemoryError异常

方法区的内部结构

方法区使用举例

方法区的演进细节

​ 首先明确:只有Hotspot才用永久代

​ BEA Jrockit、IBM J9等来说,是不存在永久带的概念的。原则上如何实现方法区属于虚拟机实现细节,不受《Java虚拟机规范》管束,并不要求统一

​ Hotspot中方法区的变化

Jdk1.6及之前有永久代(permanent generation),静态变量存放在永久代上
Jdk1.7有永久代,但已经逐步“去永久代”,字符串常量池、静态变量移除,保存在堆中
Jdk1.8及以后无永久代,类型信息、字段、方法、常量保存在本地内存的元空间,但字符串常量池、静态变量仍在堆
永久代为什么要被元空间替换

​ 随着Java8的到来,HotSpot VM中再也见不到永久代了。但是这并不意味着类的元数据也消失了。这些数据被移动到了一个与堆不相连的本地内存区域,这个区域叫做元空间(Metaspace)

​ 由于类的元数据分配在本地内存,元空间的最大可分配空间就是系统可用内存空间

​ 这项改动是很有必要的,原因有

​ 为永久代设置空间大小是很难确定的

​ 在某些场景下,如果动态加载类过多,容易产生Perm区的OOM。比如某个实际Web工程中,因为功能点比较多,在运行过程中,要不断动态加载很多类,经常出现致命错误

​ “Exception in thread ‘dubbo client x.x connector’ java.lang.OutOfMemoryError: PermGenspace”

​ 而元空间和永久带之间最大的区别在于:元空间并不在虚拟机中,而是使用本地内存。因此,默认情况下,元空间的大小仅受本地内存限制

​ 对永久代进行调优比较困难

StringTable为什么要调整

​ JDK7中将StringTable放到了堆空间中。因为永久代的回收效率很低,在full GC的时候才会触发。而Full GC是老年代空间不足时,永久代不足时才会触发。这就导致StringTable回收效率不高。而我们开发中会有大量的字符串被创建,回收效率低,导致永久代内存不足。放到堆里,能即时回收

方法区的垃圾回收

​ 有些人认为方法区(如HotSpot虚拟机中的元空间或者永久代)是没有垃圾收集行为的,其实不然。《Java虚拟机规范》对方法区的约束是非常宽松的,提到过可以不要求虚拟机在方法区中实现垃圾收集。事实上也确实有未实现或未能完整实现方法区类型卸载的收集存在(如JDK11时期的ZGC收集器就不支持类卸载)

​ 一般来说这个区域的回收效果比较难以令人满意,尤其是类型卸载,条件相当苛刻。但是这部分区域的回收是有必要的。以前Sun公司的Bug列表中,曾出现过的若干个严重的BUG就是由于低版本的HotShot虚拟机对此区域未完全回收导致内存泄漏

方法区的垃圾收集主要回收两部分内容:常量池中废弃的常量和不再使用的类型

​ 先来说说方法区内常量池中主要存放的两大常量:字面量和符号引用。

​ 字面量比较接近Java语言层次常量概念,如文本字符串、被声明final的常量值等。而符号引用则属于编译原理方面的概念,包括下面三类常量

\1. 类和接口的权限类名

\2. 字段的名称和描述符

\3. 方法的名称和描述符

HotSpot虚拟机对常量池的回收策略是很明显的,只要常量池中的常量没有任何地方引用,就可以被回收

回收废弃常量与回收Java堆中的对象非常类似

判断一个常量是否“废弃”还是相对简单,而要判断一个类型是否属于“不再被使用的类”的条件就比较苛刻了。需要同时满足下面三个条件

​ 该类所有的实例都已经被回收,也就是Java堆中不存在该类及其任何派生子类的实例

​ 加载该类的类加载器已经被回收,这个条件除非是经过精心设计的可替换类加载器的场景,如OSGi、JSP的重加载等。否则通常是达成的

​ 该类对应的java.lang.Class对象没有任何地方被引用,无法在任何地方通过反射访问该类的方法

Java虚拟机被允许对满足以上三个条件的无用的类进行回收,这里说的仅仅是“被允许”,而不是和对象一样,没有引用了就必然会回收。关于是否要对类型进行回收,HotSpot虚拟机提供了-Xnoclassgc参数进行控制,还可以使用-verbose:class以及-XX:+TraceClass-Loading、-XX:+TraceClassUnLoading查看类加载和拆卸信息

在大量使用反射、动态代理、CGLib等字节码框架,动态生成JSP以及OSGi这类频繁自定义类加载器的场景中,通常都需要Java虚拟机具备类型卸载的能力,以保证不会对方法区造成过大的内存压力

总结

image-20230127150916589

本地方法接口

​ 简单的将,一个Native Method就是一个Java调用非Java代码的接口。一个Native Method是这样一个Java方法:该方法的实现由非Java语言实现,比如C。这个特征并非Java所特有,很多其他编程语言都有这一机制,比如在C++中,你可以用extern ”C”告知C++编译器去调用一个C的函数

​ A native method is a Java method whose implementaion is provided by non-java code

​ 在定义一个native method时,并不提供实现体(有些像定义一个Java interface),因为其实现是由非Java语言在外面实现的

​ 本地接口的作用是融合不同的编程语言为Java所用,它的初衷是融合C/C++程序

标识符native可以与所有其他的Java标识符连用,但是abstract除外

为什么要使用Native Method?

​ Java使用起来非常方便,然而有些层次的任务用Java实现起来不容易,或者我们对程序的效率很在意时,问题就来了

与Java环境外交互

​ 有时Java应用需要与Java外面的环境交互,这是本地方法存在的主要原因。你可以想想Java需要与一些底层系统,如操作系统或某些硬件交换信息时的情况。本地方法正是这样一种交流机制:它为我们提供了一个非常简单的接口,而且我们无需去了解Java应用之外的繁琐细节

与操作系统交互

​ JVM支持着Java语言本身和运行时库,它是Java程序赖以生存的平台,它由一个解释器(解释字节码)和一些连接到本地代码的库组成。然而不管怎样,他毕竟是一个完整的系统,它经常依赖于一些底层系统的支持。这些底层系统常常是强大的操作系统。通过使用本地方法,我们得以用Java实现了jre的与底层系统的交互,甚至JVM的一些部分就是用C++写的。还有,如果我们要使用一些Java语言本身没有提供封装操作系统的特性时,我们也需要使用本地方法。

Sun‘s Java

​ Sun的解释是用C实现的,这使得他能像一些普通的C一样与外部交互。Jre大部分是用Java实现的,它通过一些本地方法与外界交互。例如:类java.lang.Tread的setPriority()方法是用Java实现的,但是它实现调用的是该类的本地方法setPrioity0()。这个本地方法是用C实现的,并被植入JVM内部,在Windows 95的平台上,这个方法最终将调用win32 SetPriority() API。这是一个本地方法的具体实现由JVM字节提供,更多的情况是本地方法由外部的动态连接库(external dynamic link library)提供,然后被JVM调用

现状

目前该方法使用的越来越少,除非是与硬件有关的应用,比如通过Java程序驱动打印机或者Java系统管理生产设备,在企业级应用中已经比较少见。因为现在的异构领域的通信很发达,比如可使用Socket通信,也可以使用Web Service等等……

对象的实例化、内存布局与访问定位

对象的实例化

创建对象的方式

​ New

​ 最常见的方式

​ 变形1. Xxx的静态方法

​ 变形2. XxxBuilder / XxxFactory的静态方法

​ Class的newInstance() :反射的方式,只能调用空参构造器,权限必须是public

​ Constructor的newInstance(Xxx) : 反射的方式,只能调用空参、带参的构造器,权限没有要求

​ 使用clone(): 不调用任何构造器,当前类需要实现Cloneable接口,实现clone()

​ 使用反序列化:从文件中,从网络中获取一个对象的二进制流

​ 第三方Objenesis

创建对象的步骤

​ 判断对象对应的类是否加载、链接、初始化[冯1]

​ 为对象分配内存[冯2]

​ 如果内存规整 —— 指针碰撞[冯3]

​ 如果内存不足

​ 虚拟机需要维护一个列表

​ 空闲列表分配[冯4]

​ 说明[冯5]

​ 处理并发安全问题

​ 采用CAS失败重试、区域加锁保证更新的原子

​ 每个线程预先分配一块TLAB —— 通过-XX:+/-UserTLAB参数来设定

​ 初始化分配到的空间 —— 所有属性设置默认值,保证对象实例字段在不赋值时可以直接使用

​ 设置对象的对象头[冯6]

​ 执行init方法进行初始化[冯7]

对象实例化过程简洁步骤

① 加载类元信息 ② 为对象分配内存 ③ 处理并发问题 ④ 属性的默认初始化(零值初始化) ⑤设置对象头信息 ⑥ 属性的显示初始化、代码块中初始化、构造器中初始化

对象的内存布局

image-20230127150939872

对象的访问定位

​ JVM是如何通过栈帧中的对象引用访问到其内部的对象实例的呢?

​ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-MUKw4tuH-1674808035317)(https://gitee.com/nfzwycmdxz/fax_img/raw/master/jvm/image-20230127150943668.png)]

直接内存(Direct Memory)

概述

​ 不是虚拟机运行时数据区的一部分,也不是《Java虚拟机规范》中定义的内存区域

​ 直接内存是在Java堆外的、直接向系统申请的内存空间

​ 来源于NIO,通过存在堆中 的DirectByteBuffer操作Native内存

​ 通常,访问直接内存的速度会优于Java堆。即读写性能高

​ 因此出于性能考虑,读写频繁的场合可能会考虑使用直接内存

​ Java的NIO库允许Java程序使用直接内存,用于数据缓存区

​ 也可能导致OutOfMemoryError异常 Direct buffer memory

​ 由于直接内存在Java堆外,因此它的大小不会直接受限于-Xmx指定的最大堆大小,但是系统内存是有限的,Java堆和直接内存的总和依然受限于操作系统能给出的最大内存

​ 缺点

​ 分配回收成本较高

​ 不受JVM内存回收管理

​ 直接内存大小可以通过MaxDirectMemorySize设置

​ 如果不指定,默认与堆的最大值-Xmx参数一致

执行引擎

执行引擎的概述

​ 执行引擎是Java虚拟机核心的组成部部分

​ “虚拟机”是一个相对于“物理机”的概念,这两种机器都有代码执行能力,其区别是物理机的执行引擎是直接建立在处理器、缓存、指令集和操作系统层面上的,而虚拟机的执行引擎则是由软件自行实现的,因此可以不受物理条件制约地定制指令集与执行引擎的结构体,能够执行那些不被硬件直接支持的指令集格式

​ JVM的主要任务是负责装载字节码到其内部,但字节码并不能够直接运行在操作系统之上,因为字节码指令并非等价于本地机器指令,它内部包含的仅仅只是一些能够被JVM所识别的字节码指令、符号表,以及其他辅助信息

​ 那么,如果想要让一个Java程序运行起来,执行引擎(Execution Engine)的任务就是将字节码指令解释/编译为对应平台上的本地机器指令才可以。简单来说,JVM中的执行引擎充当了高级语言翻译为机器语言的译者

​ 从外观上来看,所有的Java虚拟机的执行引擎输入,输出都是一致的:输入的是字节码二进制流,处理过程是字节码解析执行的等效过程,输出的是执行结果

Java代码编译和执行过程

​ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-glXsbCQY-1674808035318)(https://gitee.com/nfzwycmdxz/fax_img/raw/master/jvm/image-20230127150950207.png)]

​ 大部分的程序代码转换成物理机的目标代码或虚拟机能执行的指令集之前,都需要经过上图中的各个步骤

image-20230127150954376

image-20230127150957549

​ 什么是解释器(Interpreter),什么是JIT编译器?

​ 解释器:当Java虚拟机启动时会根据预定义的规范对字节码采用逐行解释的方式执行,将每条字节码文件中的内容“翻译”为对应平台的本地机器指令

​ JIT(Just In Time Compiler)编译器:就是虚拟机将源代码直接编译成和本地机器平台相关的机器语言

​ 为什么说Java是半编译半解释性语言?

​ JDK1.0时代,将Java语言定位为“解释执行”还是比较准确的。再后来,Java也发展出可以直接生成本地代码的编译器

​ 现在JVM在执行Java代码的时候,通常都会将解释执行与编译执行二者结合起来进行

机器码、指令、汇编语言

机器码

​ 各种用二进制变成方式表示的指令,叫做机器指令码。开始,人们就用它采编写程序,这是机器语言

​ 机器语言虽然能够被计算机理解和接受,但和人们的语言差别太大,不易被人们理解和记忆,并且用它编程容易出错

​ 用它编写的程序一经输入计算机,CPU直接读取运行,因此和其他语言编的程序相比,执行速度快

​ 机器指令与CPU紧密相关,所以不同种类的CPU所对应的机器指令也就不同

指令

​ 由于机器码是有0和1组成的二进制序列,可读性实在太差,于是人们发明了指令。

​ 指令就是把机器码中特定的0和1序列,简化成对用的指令(一般为英文简写,如mov,inc等),可读性稍好

​ 由于不同的硬件平台,执行同一个操作,对应的机器码可能不同,所以不同的硬件平台的同一种指令(比如mov),对应的机器码也可能不同

指令集

​ 不同的硬件平台,各自支持的指令,是有差别的。因此每个平台所支持的指令,称之为对应平台的指令集

​ 如常见的

​ X86指令集,对应的是x86架构平台

​ ARM指令集,应用的是ARM架构平台

汇编语言

​ 由于指令的可读性还是太差,于是人们又发明了汇编语言

​ 在汇编语言中,用助记符(Mnemonics)代替机器指令的操作码,用地址符号(Symbol)或标记(Lable)代替指令或操作数的地址

​ 在不同的硬件平台,汇编语言对应着不同的机器语言指令集,通过汇编过程转换成机器指令

​ 由于计算机只认识指令码,所以用汇编语言编写的程序还必须翻译成机器指令码,计算机才能识别和执行

高级语言

​ 为了使计算机用户编程更加容易,后来就出现了各种高级计算机语言。高级计算机语言比机器语言、汇编更接近人的语言

​ 当计算机执行高级语言编写的程序时,仍然需要把程序解释和编译成计算机指令码。完成这个过程的程序就叫做解释程序或编译程序

字节码

​ 字节码是一种中间状态(中间码)的二进制代码(文件),他比机器码更加的抽象,需要直译器转义后才能成为机器码

​ 字节码主要为了实现特定软件运行和软件环境、与硬件无关

​ 字节码的实现方式是通过编译器和虚拟机器。编译器将源码编译成字节码,特定平台上的虚拟机器将字节码转译为可直接执行的指令

​ 字节码的典型应用为Java bytecode

解释器

​ JVM设计者们的初衷仅仅只是单纯的为了满足JAVA程序实现跨平台性,因此避免采用静态编译的方式直接生成本地机器指令,从而诞生实现了解释器在运行采用逐行解释字节码执行程序的想法

image-20230127151003955

解释器工作机制(或工作任务)

​ 解释器真正意义上所承担的角色就是一个运行时“翻译者”,将字节码文件中的内存“翻译”为对应平台的本地机器指令执行

​ 当一条字节码指令被解释器执行完成后,接着再根据PC寄存器中记录的下一条需要被执行的字节码指令指向解释操作

解释器分类

​ 在Java的发展历史中,一共有两套解释执行器,即古老的字节码解释器、在线普通使用的模板解释器

​ 字节码解释器在执行时通过纯软件代码模拟字节码的执行,效率非常底下

​ 而模板解释器将每一条字节码和一个模板函数相关联,模板函数中直接产生这条字节码执行时的机器码,从而很大程度上提高了解释器的性能

​ 在HotSpot VM中,解释器主要由Interpreter模块和Code模块构成

​ Interpreter模块:实现了解释器的核心功能

​ Code模块:用于管理HotSpot VM在运行时生成的本地机器指令

现状

​ 由于解释器在设计和实现上非常简单,因此除了Java语言外,还有许多高级语言同样也是基于解释器执行的,比如Python、Perl、Ruby等。但是在今天,基于解释器执行已经沦落为低效率的代名词,并且时常被一些C/C++调侃

​ 为了解决这个问题,JVM平台支持一种叫做即时编译的技术。即时编译的目的是为了避免函数被解释执行,而是将整个函数体编译成为机器码,每次函数执行时,只执行编译后的机器码即可,这种方式可以使执行效率大幅度提升

​ 不过无论如何,基于解释器的执行模式仍然为中间语言的发展做出了不可磨灭的贡献

JIT编译器

​ 第一种是将源代码编译成字节码文件,然后在运行时通过解释器将字节码文件转换为机器码执行

​ 第二种是编译执行(直接编译成机器码)。现代虚拟机为了提高执行效率,会使用即时编译技术(JIT, Just In Time)将方法编译成机器码后再执行

​ HotSpot VM是目前世面上高性能虚拟机的代表作之一。它采用解释器与即时编译器并存的架构。在Java虚拟机运行时,解释器和即时编译器能够相互协作,各自取长补短,尽力去选择最合适的方式来权衡编译本地代码的时间和直接解释执行代码的时间

​ 在今天,Java程序的运行已经是非常快的了

概念解释

​ Java语言的“编译期”其实是一段“不确定”的操作过程,因为它可能是指一个前端编译器(其实叫做“编译器的前端”跟准确一些)把.java转变成.class文件

​ 也可能是指虚拟机的后端运行期编译器(JIT编译器,Just In Time Compiler)把字节码变成机器码的过程

​ 还可能是指使用静态提前编译器(AOT编译器,Ahead Of Time Compiler)直接把.java文件编译成本地机器代码的过程

​ 前端编译器:Sun 的Javac、Eclipse JDT中增量式编译器(ECJ)

​ JIT编译器:HotSpot VM的C1, C2编译器

​ AOT编译器:GUN Compiler for the Java (GCJ)、Excelsior JET

热点代码及探测方式

​ 当然是否需要启动JIT编译器将字节码直接编译为对应平台的本地机器指令,则需要根据代码被调用执行的频率而定。关于那些需要被编译为本地代码的字节码,也被称为“热点代码”,JIT编译器在运行时会针对那些频繁被调用的“热点代码”做出深度优化,将其直接编译为对应平台的本地机器指令,以此提升Java程序的执行性能

​ 一个被调用多次的方式,或者是一个方法体内部循环次数较多的循环体都可以被称之为“热点代码”,因此都可以通过JIT编译器编译为本地机器指令。由于这种变成方式发生在方法的执行过程中,因此也被称之为栈上替换,或者简称为OSR(On Stack Replacement)编译

​ 一个方法究竟要被调用多少次,或者一个循环体究竟要执行多少次循环才可以达到这个标准?必然需要一个明确的阈值,JIT编译器才会将这些“热点代码”编译为本地机器指令执行。这里主要依靠热点探测功能

​ 目前HotSpot VM所采用的热点探测方式是基于计数器的热点探测

​ 采用基于计数器的热点探测,HotSpot VM将会为每一个方法都建立2个不同类型的计数器,分别为方法调用计数器(Invocation Counter)和回边计数器(Back Edge Counter)

​ 方法调用计数器用于统计方法的调用次数

​ 回边计数器则用于统计循环执行的循环次数

方法调用计数器

​ 这个计数器就用于统计方法被调用的次数,它的默认阈值在Client模式下是1500次,在Server模式下是10000次。超过这个阈值,就会触发JIT编译。

​ 这个阈值可以通过虚拟参数-XX:CompileThreshold来认为设定

​ 当一个方法被调用时,会先检查该方法是否存在被JIT 编译过的版本,如果存在,则优先使用编译后的本地来执行。如果不存在已被编译过的版本,则将方法的调用计数器值加1,然后判断方法调用计数器与回边计数器之和是否超过方法调用计数器的阈值。如果已超过阈值,那么将会向即时编译器提交一个该方法的代码编译请求

热度衰减

​ 如果不做任何设置,方法调用计数器统计的并不是方法调用的绝对次数,而是一个相对的执行频率,即一段时间之内方法被调用的次数。当超过一定的时间限度,如果方法的调用次数仍然不足以让他提交给即时编译器编译,哪这个方法的调用计数器就会被减少一半,这个过程称为方法调用计数器热度的衰减(Counter Decay),而这段时间就称为此方法统计的半衰周期(Counter Half Life Time)

​ 进行热度衰减的动作是在虚拟机进行垃圾回收时顺便进行的,可使用虚拟机参数,这样,只要系统运行时间足够长,绝大部分方法都会被编译成本地代码

​ 另外,可以使用-XX:CounterHalfLifeTime参数设置半衰周期时间,单位是秒

回边计数器

​ 它的作用是统一个方法中循环代码执行的次数,在字节码中遇到控制流向后跳转的指令称为“回边”(Back Edge)。显然,建立回边计数器统计的目的就是为了触发OSR编译

HotSpot JVM的执行方式

​ 当虚拟机启动的时候,解释器可以首先发挥作用,而不必等待即时编译器全部编译完成再执行,这样可以省去许多不必要的编译时间。并且随着程序运行时间的推移,即时编译器逐步发挥作用,根据热点探测功能,将有价值的字节码编译为本地机器指令,以换取更高的程序执行效率

HotSpot VM可设置程序执行方式

​ 缺省情况下HotSpot VM是采用解释器与即时编译器并存的架构,当然开发人员可以根据具体的应用场景,通过命令显示地为Java虚拟机指定在运行时到底是完全采用解释器执行,还是完全采用即时编译器执行

​ -Xint:完全采用解释器模式执行

​ -Xcomp: 完全采用即时编译器模式执行程序。如果即时编译器出现问题,解释器会介入执行

​ -Xmixed:采用解释器 + 即时编译器的混合模式共同执行程序

HotSpot VM中JIT分类

​ 在HotSpot VM中内嵌有两个JIT编译器,分别为Client Compiler和Server Compiler,但大多数情况下我们简称为C1编译器和C2编译器。开发人员可以通过如下命令显示指定Java虚拟机在运行时到底使用那种即时编译器

​ -client:指定Java虚拟机运行在Client模式下,并使用C1编译器

​ C1编译器会对字节码进行简单和可靠的优化,耗时短。以达到更快的编译速度

​ -server:指定Java虚拟机运行在Server模式下,并使用C2编译器

​ C2进行耗时较长的优化,以及激进优化。但优化的代码效率更高

​ 分层编译(Tiered Compilation)策略:程序解释执行(不开启性能监控)可以触发C1编译,将字节码编译成机器码,可以进行简单的优化,也可加上性能监控,C2编译会根据性能监控信息进行激进优化

​ 不过在Java7版本之后,一旦开发人员在程序中显示指令命令“-server”时,默认将会开启分层编译策略,由C1编译器和C2编译器相互协助共同来执行编译任务

C1和C2编译器不同的优化策略

​ 在不同的编译器上有不同的优化策略,C1编译器上主要有方法内联,去虚拟化、冗余消除。

方法内联:将引用的函数代码编译到引用点处,这样可以减少栈帧的生成,减少参数传递以及跳转过程

去虚拟化:对唯一的实现类进行内联

冗余消除:在运行期间把一些不会执行的代码折叠掉

​ C2的优化主要是在全局层面,逃逸分析是优化的基础。基于逃逸分析在C2上有如下几种优化

标量替换:用标量值代替聚合对象的属性值

栈上分配:对于未逃逸的对象分配对象在栈而不是堆

同步消除:清除同步操作,通常指synchronized

String Table

String的基本特性

​ String:字符串,使用一对儿“”引起来表示

​ String声明为final的,不可被继承

​ String实现了Serializable接口:表示字符串是支持序列化的

​ 实现了Comparable接口:表示String可以比较大小

​ String在jdk8及以前内部定义了final char[] value用于存储字符串数据。JDK9时改为byte[]

​ String : 代表不可变字符串序列。简称:不可变性

​ 当最字符串重新赋值时,需要重写指定内存区域赋值,不能使用原有的value赋值

​ 当对现有的字符串进行连接操作时,也需要重新指定内存区域赋值,不能使用原有的value进行赋值。

​ 当调用string的replace()方法修改指定的字符或字符串时,也需要重新指定内存区域赋值,不能使用原有的value进行赋值

​ 通过字面量的方式(区别于new)给一个字符串赋值,此时的字符串值声明在字符串常量池中

字符串常量池中是不会存储相同内存的字符串的

​ String的String Pool是一个固定大小的Hashtable,默认值大小长度是1009。如果放进String Pool的String非常多,就会造成Hash冲突严重,从而导致链表时间会很长,而链表长了以后直接会造成的影响就是当调用String.intern时性能会大幅度下降

​ 使用-XX:StringTableSize可设置StringTable的长度

​ 在Jdk6中StringTable是固定的,就是1009长度,所以如果常量池中的字符串过多就会导致效率下降很快。StringTableSize设置没有要求

​ 在Jdk7中,StringTable的长度默认值是60013

Jdk8开始,1009是可设置的最小值

String存储结构变更

​ String再也不用char[]来存储啦,改成了byte[]加上编码标记,节约了一些空间

​ Public final class String implement java.io.Serializable, Comparable, CharSequence {

​ @Stable

​ Private final byte[] value;

}

​ 哪StringBuffer和StringBuilder是否无动于衷呢?

​ String-related classes such as AbstractStringBuilder, StringBuilder and StringBuilder will be update to use the same representation, as will the HotSpot VM’s intrinsic(固有的、内置的)string operations.

String的内存分配

​ 在Java语言中有8种基本数据类型和一种比较特殊的类型String。这些类型为了使他们在运行过程中运行速度更快、更节省内存,都提供了一种常量池的概念

​ 常量池就类似一个Java系统级别的缓存。8种数据类型的常量池都是系统协调的,String类型的常量池比较特殊。它的主要使用方法有两种:

​ 直接引用使用双引号声明出来的String对象会直接存储在常量池中。

​ 比如:String info = “atguigu.com”;

​ 如果不是双引号声明的String对象,可以使用String提供的intern()方法

​ Java6及以前,字符串常量池存放在永久代

​ Java7中Oracle的工程师对字符串池的逻辑做了很大的改变,即将字符串常量池的位置调整到Java堆内

​ 所有的字符串都保存在堆(Heap)中,和其他普通对象一样,这样可以让你在进行调优应用时仅需要调整堆的大小就可以了

​ 字符串常量池概念原本使用的比较多,但是这个改动使得我们有足够的理由让我们重新考虑在Java7中使用String.intern()

​ Java8元空间,字符串常量池在堆

​ StringTable为什么要调整 ①:permSize默认比较小 ②:永久代垃圾回收频率低

String的基本操作

字符串的拼接操作

​ 常量与常量的拼接结果在常量池,原理是编译期优化

​ 常量池中不会存在相同内容的常量

​ 只要其中有一个是变量,结构就在堆中。变量拼接的原理是StringBuilder

​ 如果拼接的结果调用intern()方法,则主动将常量池中还没有的字符串对象放入池中,并返回此对象的地址

String s1 = “b” + “c”; 编译器优化,直接就是 String s1 = “bc”;
如果拼接字符串的前后出现了变量,则相当于在堆空间中 new String(), 具体内容为拼接结果,所以 “abc” == “a” + s1; 为false Intern():判断字符串常量池中是否存在 相应的 字符串的值,如果存在,则返回常量池中 相应字符串 的地址;如果不存在 相应的字符串,则在常量池中加载一份 相应的字符串,并返回对象的地址
S1 + s2的执行细节 StringBuilder s = new StringBuilder(); s.append(“a”); s.append(“b”); s.toString() -> 约等于 new String(“ab”) 补充:在Jdk1.5之后使用的是StringBuilder, 在jdk5.0之前使用的是StringBuffer
字符串拼接操作不一定使用的是StringBuilder 如果拼接符号左右两边都是字符串常量或是常量引用,则仍然使用编译器优化,即非StringBuilder的方式 针对final修饰类、方法、基本数据类型、引用数据类型的量结构时,能使用上final的时候建议使用
体会执行效率:通过StringBuilder的append()的方式添加字符串的效率要远高于使用String字符串的拼接方式 StringBuilder的append()的方式:至始至终只创建过一个StringBuilder对象,使用String的字符串拼接方式:创建了多个StringBuilder和String对象 使用String的字符串拼接方式:内存中由于创建了较多的StringBuilder和String对象,内存占用更大;如果GC,需要花费额外的时间 改进空间:在实际开发中,如果基本确定前前后后添加的字符串长度不高于某个限定值,higLevel的情况下,建议使用构造器实例化 StringBuilder s = new StringBulder(hightLevel);//new char[higLevel]

Intern()的使用

​ 如果不是用双引号声明的String对象,可以使用String提供的intern方法:intern方法会从字符串常量池中查询当前字符串是否存在,若不存在就会在当前字符串放入常量池中

​ 比如:String myInfo = new String(“I love LJM”).intern();

​ 也就是说,如果在任意字符串上调用String.intern()方法,那么其返回结果所指向的那个类实例,必须和直接以常量形式出现的字符串实例完全相同。因此,下列表达式值必定是true

​ (“a” + “b” + “c”).intern() == “abc”

​ 通俗点讲,Interned String就是确保字符串在内存里只有一份拷贝,这样可以节约内存空间,加快字符串操作任务的执行速度。注意,这个值会被保存在字符串内部池(String Intern Pool)

​ 如何保证变量s指向的是字符串常量池中的数据呢?

​ 方式一:

​ String s = “abc”;

​ 方式二:

​ String s = new StringBuilder(“abc”).toString.intern();

​ String s = new String(“abc”).intern();

New String(“ab”)会创建几个对象? 一个对象是:new关键字在堆中创建的 另一个对象是:字符串常量池中的对象”ab“,字节码指令:ldc
New String(“a”) + new String(“b”) 对象一:new StringBuilder() 对象二:new String(“a”) 对象三:常量池中的a 对象四:new String(“b”) 对象五:常量池中的b 深入剖析:StringBuilder的toString(): 对象六:new Stirng(“ab”) 强调一下: toString()的调用,在字符串常量池中,没有生成“ab”

Intern()的使用:jdk6 VS jdk7/8

​ Jdk6中,将这个字符串对象尝试放入串池

​ 如果串池中有,则并不会放入。返回已有的串池中的对象的地址

​ 如果没有,会把此对象复制一份,放入串池,并返回串池中的对象地址

​ Jdk7起,将这个字符串对象尝试放入串池

​ 如果串池中有,则并不会放入。返回已有的串池中的对象的地址

​ 如果没有,则会把对象的引用地址复制一份,放入串池,并返回串池中的引用地址

G1中的String去重操作

​ 背景:对许多Java应用(有大的也有小的)做的测试得出以下结果:

​ 堆存活数据集合里面String对象占了25%

​ 堆存活数据集合里面重复的String对象有13.5%

​ String对象的平均长度是45

​ 许多大规模的Java应用的瓶颈在于内存,测试表明,在这些类型的应用里面,Java堆中存活的数据集合差不多25%是String对象。更近一步,这里面差不多一半String对象是重复的,重复的意思是说:string1.equals(string2) = true。堆上存在重复的String对象必然是一种浪费。这个项目将在G1垃圾收集器中实现自动对重复的String对象进行去重,这样就能避免浪费内存

​ 实现

​ 当垃圾收集器工作的时候,会访问堆上存活的对象。对每一个访问的对象都会检查是否是候选的要去重的String对象

​ 如果是,把这个对象的引用插入到队列中等待后续处理。一个去重的线程在后台运行,处理这个队列。处理队列的一个元素意味着从队列删除这个元素,然后去尝试重它引用的String对象

​ 使用一个hashtable来记录所有的被String对象使用的不重复的char数组。当去重的时候,会查这个hashtable,来看堆上是否已经存在一个一摸一样的char数组

​ 如果存在,String对象会被调整引用那个数组,释放对原来数组的引用,最终会被垃圾收集器收掉

​ 如果查找失败了,char数组会被插入到hashtable,这样以后的时候就可以共享这个数组了

​ 命令

​ UserStringDeduplication(bool):开启String去重,默认是不开启的,需要手动开启

​ PrintStringDeduplicationStatistics(bool):打印详细的去重操作

​ StringDeduplicationAgeThreshold(uintx):达到这个年龄的String对象被认为是去重操作的候选对象

垃圾回收概述

什么是垃圾

​ 什么是垃圾(Garbage)呢?

​ 垃圾是指在运行程序中没有任何指向的对象,这个对象就是需要被垃圾回收的

​ 外文:An object is considered garbage when it can no longer be reached from any pointer int the running program

​ 如果不及时对内存中的垃圾进行清理,那么,这些垃圾对象所占的内存空间会一直保留到应用程序结束,被保留的空间无法被其他对象使用。甚至可能导致内存溢出

为什么需要GC

​ 对于高级语言来说,一个基本认知是如果不进行垃圾回收,内存迟早都会被消耗完成,因为不断地分配内存空间而不进行回收,就好像不停地生产生活垃圾而来不会打扫一样

​ 除了释放没用的对象,垃圾回收也可以清除内存里的记录碎片。碎片整理将占用的堆内存移到堆的另一端,以便JVM将整理出的内存分配给新的对象

​ 随着应用程序所应付的业务越来越大、复杂,用户越来越多,没有GC就不能保证应用程序的正常进行。而经常造成STW的GC又跟不上实际的需求,所以才会不断地去尝试GC进行优化

早期垃圾回收

​ 在早期的C/C++时期,垃圾回收基本上是手工进行的。开发人员可以使用new关键字进行内存申请,并使用delete关键字进行内存释放。

​ MibBridge *pBridge = new cmBaseGroupBride();

​ //如果注册失败,使用Delete释放该对象所占用内存区域

​ If (pBridge -> Register(kDestory) != NO_ERROR)

​ Delete pBridge;

​ 这种方式可以灵活控制内存释放的时间,但是会给开发人员带来频繁申请和释放内存的管理负担。倘若有一处内存区间由于程序员编码的问题忘记被回收,那么就会产生内存泄漏,垃圾对象永远无法被清除,随着系统运行时间的不断增长,垃圾对象所耗内存可能持续上升,直到出现内存溢出并造成应用程序崩溃

​ 在有了垃圾回收机制后,上述代码块有可能变成这样

​ MibBridge *pBirdge = new cmBaseGroupBridge();

​ pBridge -> Register(kDestory)

​ 现在除了Java外,C#、PY等语言都使用了自动垃圾回收的思想,也是未来的发展趋势。可以说,这种自动的内存分配和垃圾回收的方式已经成为现代开发语言必备的标准

Java垃圾回收机制

​ 自动内存管理,无需开发人员动手参与内存的分配与回收,这样降低内存泄漏和内存溢出的风险

​ 没有垃圾回收,java也会和cpp一样,各种垂悬指针,野指针,泄漏问题让你头疼不已

​ 自动内存管理机制,将程序员从繁重的内存管理中释放出来,可以更专心的与业务开发

​ 对于Java开发人员而言,自动内存管理就像一个黑匣子,如果过度依赖于“自动”,那么这将会是一场灾难,最严重的就会弱化Java开发人员在程序出现内存溢出时定位问题和解决问题的能力。

​ 此时,了解JVM的自动内存分配和内存回收原理就显得非常重要,只有在真正了解JVM是如何管理内存后,我们才能够在遇见OutOfMemoryError时,快速的根据错误异常日志定位问题和解决问题

​ 当需要排查各种内存溢出、内存泄漏问题时,当垃圾收集成为系统达到更高并发量的瓶颈时,我们就必须对这些“自动化”的技术实施必要的监控和调节

​ 垃圾回收可以对年轻代回收,也可以对老年代回收,甚至是全堆和方法去回收

​ 其中,Java堆是垃圾收集器的工作重点

​ 次数上

​ 频繁收Yong区

​ 较少收Old区

​ 基本不动Perm区(元空间)

垃圾回收相关算法

标记阶段:引用计数算法

​ 在堆里存放着几乎所有的Java对象实例,在GC执行垃圾回收之前,首先需要区分出内存中那些是存活对象,那些是已经死亡掉的对象。只有被标记为已经死亡的对象,GC才会执行垃圾回收时,释放掉其所占用的内存空间,因此这个过程我们可以称为垃圾标记阶段

​ 那么在JVM中究竟是如何标记一个死亡对象呢?简单来说,当一个对象已经不再被任何存活对象继续引用时,就可以宣判已经死亡

​ 判断对象存活一般有两种方式:引用计数法 And 可达性分析算法

方式一:引用计数算法

​ 引用计数算法(Reference Counting)比较简单,对每个对象保存一个整引用计数器属性。用于记录对象被引用的情况

​ 对于一个对象A,只要有一个对象引用了A,则A的引用计数器就加一;当引用失效时,引用计数器就减1。只要对象A的引用计数器的值为0,即表示对象A不可能再被使用,可进行回收

​ 优点:实现简单,垃圾对象便于辨识;判定效率高,回收没有延迟

​ 缺点

​ 它需要单独的字段存储计数器,这样的做法增加了存储空间的开销

​ 每次赋值都需要更新计数器,伴随着加法和减法操作,这增加了时间开销

​ 引用计数器有一个严重的问题,即时无法处理循环引用的情况。这是一条致命的缺陷,导致在Java的回收器中没有使用这类算法

小结

​ 引用计数算法,是很多语言的资源回收选择,例如因人工智能而更加火热的PY,它更是同时支持引用计数和垃圾收集机制

​ 具体那种最优是要看场景的,业界有大规模实践中仅保留引用计数机制,以提高吞吐量的尝试

​ Java并没有选择引用计数器,是因为其存在一个基本的难题,也就是很难处理循环引用关系

​ PY如何解决循环引用?

​ 手动解除:很好理解,就是在合适的时机,解除引用关系

​ 使用弱引用weakref,weakref是PY提供标准库,只在解决循环引用

标记阶段:可达性分析算法

可达性分析(根搜索算法、追踪性垃圾收集)

​ 相对于引用计数算法而言,可达性分析算法不仅同样具备实现简单和执行高效等特点,更重要的是该算法可以有效的解决在引用计数算法中循环引用问题,防止内存泄漏的发生

​ 相较于引用计数算法,这里的可达性分析就是Java,C#选择的。这种类型的垃圾收集通常也叫做追踪性垃圾收集(Tracing Garbage Collection)

​ 所谓“GC Roots”根节点就是一组必须活跃的引用

​ 基本思路

​ 可达性分析算法是以跟对象集合(GC Roots)为起始点,按照从上至下的方式搜索被根对象集合所连接的目标对象是否可达

​ 使用可达性分析算法后,内存中的存活对象都会被跟对象集合直接或间接连接着,搜索所走过的路径称为引用链(Reference Chain)

​ 如果目标对象没有任何引用链接相连,则是不可达的,这就意味着该对象以及死亡,可以标记为垃圾对象

​ 在可达性分析算法中,只有能够被根对象集合直接或间接连接的对象才是存活对象

GC Roots

在Java语言中,GC Roots包括以下几类元素

​ 虚拟机栈中引用的对象

​ 比如:各个线程被调用的方法中使用到的参数、局部变量等。

​ 本地方法栈内JNI(通常说的本地方法)引用的对象

​ 方法区中静态静态属性引用的对象

​ 比如:Java类的引用类型静态变量

​ 方法区中常量引用的对象

​ 比如:字符串常量池(String Table)里的引用

​ 所有被同步锁synchronized持有的对象

​ Java虚拟机内部的引用

​ 基本数据类型对应的Class对象,一些常驻的异常对象(如:NullPointerException、OutOfMemoryError),系统类加载器

​ 反映Java虚拟机内部情况的JMXBean、JVMTI中注册的回调、本地代码缓存等

​ 除了这些固定的GC Roots集合外,根据用户所选用的垃圾收集以及当前回收的内存区域不同,还可以有其他对象“临时性“地加入,共同构成完成地GC Roots集合。比如:分代收集和局部回收(Partial GC)

​ 如果只针对Java堆中的某一块区域进行垃圾回收(比如:典型的只针对新生代),必须考虑到内存区域是虚拟机自己的实现细节,更不是孤立封闭的,这个区域的对象完全有可能被其他区域的对象所引用,这时候就需要一并将关联的区域加入GC Roots集合中去考虑,才能保证可达性分析的准确性。

​ 由于Root采用栈方式存放变量和指针,所以如果一个指针,它保存了堆内存里面的对

象,但是自己又不存放在堆内存里面,那他就是一个Root

注意

​ 如果要使用可达性分析算法来判断内存是否可回收,那么分析工作就必须在一个能保障一致性的快照中进行。这点不满足的话分析结果的准确性就无法保证

​ 这点也是导致GC进行时必须“stop The World”的一个重要原因

​ 即时是号称(几乎)不会发生停顿的CMS收集器中,枚举根节点时也是必须要停顿的

对象的finalzation机制

​ Java语言提供了对象终止(finalization)机制来允许开发人员提供对象被销毁之前的自定义处理逻辑

​ 当垃圾回收器发现没有引用指向一个对象,即:垃圾回收此对象之前,总会先调用这个对象的finalize()方法

​ Finalize()方法允许在子类中被重写,用于在对象被回收时进行资源释放。通常在这个方法中进行一些资源释放和清理的工作,比如关闭文件、套接字和数据库连接等

​ 永远不要主动调用某个对象的finalize()方法,应该交给垃圾回收机制调用。

​ 在finalize()时可能会导致对象复活

​ Finalize()方法执行时间是没有保障的,它会完全由GC线程决定,极端情况下,若不发生GC,则finalize()方法将没有执行机会

​ 一个糟糕的finalize()方法与C++中的解析函数比较相似,但是Java采用的是基于垃圾回收器的自动内存管理机制,所以finalize()方法在本质上不同于C++中的析构函数

​ 由于finalize()方法的存在,虚拟机中的对象一般处于三种可能的状态

生存还是死亡

​ 如果从所有的根节点都无法访问到某个对象,说明对象已经不再使用了。一般来说,此对象需要被回收。但事实上,也并非是“非死不可”的,这时候他们暂时处于“缓刑”阶段。一个无法触及的对象有可能在某一个条件下“复活“自己,如果这样,那么对它的回收就是不合理的,为此,定义虚拟机中的对象肯可能有三种状态。如下:

​ 可触及:从根节点开始,可以到达这个对象

​ 可复活的:对象的所有引用都被释放,但是对象有可能在finalize()中复活

​ 不可触及的:对象的finalize()被调用,并且没有复活,那么就会进入不可触及状态。不可触及的对象不可能被复活,因为finalize()只会被调用一次

​ 以上3种状态中,是由于finalize()方法的存在,进行的区分。只有在对象不可触及时才可以被回收

具体过程

​ 判定一个对象objA是否可回收,至少要经历两次标记过程:

​ 如果对象ObjA到GC Roots没有引用链接,则进行一次标记

​ 进行筛选,判断此对象是否有必要执行finalize()方法

​ 如果ObjA没有重写finalize()方法,或者finalize()方法已经被虚拟机调用过了则虚拟机视为“没有必要执行”,ObjA被判定为不可触及的

​ 如果对象ObjA重写了finalize()方法,且还未执行过,那么objA会被插入到F-Queue队列中,由一个虚拟机自动创建的、低优先级的Finalizer线程触发其finalize()方法执行

​ Finalize()方法是对象逃脱的最后机会,稍后GC会对F-Queue队列中的对象进行二次标记。如果objA在finalize()方法中与引用链上的任何一个对象建立了联系,那么第二次在标记时,objA会被移出“即将回收”集合。之后,对象会再次出现没有引用存在的情况。在这个情况下,finalize方法不会被再次调用,对象会直接变成不可触及状态,也就是说,一个对象的finalize方法只会被调用一次

MAT于Jprofiler的GC Roots溯源

清除阶段:标记-清除算法

​ 当成功区分出内存中存活对象的死亡对象后,GC接下来的任务就是执行垃圾回收,释放掉无用对象所占用的内存空间,以便有足够的可用内存空间为新对象分配存

​ 目前在JVM中比较常见的三种垃圾收集算法是标记-清除算法(Mark-Sweep)、复制算法(Copying)、标记-压缩算法(Mark-Compact)

背景

​ Mark sweep是一种非常基础和常见的垃圾收集算法,该算法被J·McCarthy等人在1960年提出并应用于Lisp语言

执行过程

​ 当堆中的有效内存空间(available memory)被耗尽的时候,就会停止整个程序(也被称为stop the world),然后进行两项工作,第一则是标记,第二则是清除

​ 标记:Collector从引用根节点开始遍历,标记所有被引用的对象。一般是在对象的Header中记录为可达对象

​ 清除:Collector对堆内存从头到尾进行线性的遍历,如果发现某个对象在其Header中没有标记为可达对象,则将其回收

缺点

​ 效率不高

​ 在进行GC的时候,需要停止整个应用程序,导致用户体验差

​ 这种方式清理出来的空闲内存是不连续的,产生内存碎片。需要维护一个空闲列表

何为清除

​ 这里所谓的清除并不是真的置空,而是把需要清除的对象地址保存在空闲的地址列表里。下次有新的对象需要加载时,判断垃圾的位置空间是否足够,如果够,就存放

清除阶段:复制(Copying)算法

背景

​ 为了解决标记-清除算法在垃圾收集效率方面的缺陷,M.L.Minsky于1963年发表了著名的论文,“使用双储存区的Lisp语言垃圾收集器CALISP Garbage Collector Algorithm Using Serial Secondary Storage”。M.L.Minsky在该论文中描述的算法被人们称为复制(Copying)算法,它也被M.L.Minsky本人成功引入到了Lisp语言的一个显示版本中

核心思想

​ 将活着的内存空间分为两块,每块只能使用其中一块,在垃圾回收时将正在使用的内存区域中的存活的对象复制到未被使用的内存中,之后清除正在使用的内存区域块中的所有对象,交换两个内存的角色,最后完成垃圾回收

优点

​ 没有标记和清除过程,实现简单,运行高效

​ 复制过去以后保证空间的连续性,不会出现“碎片问题”

缺点

​ 此算法的确定是很明显的,就是需要两倍的内存空间

​ 对于G1这种拆分成为大量region的GC,复制而不是移动,意味着GC需要维护region之间对象引用关系,不管是内存占用或者时间开销都是非常大的

特别的

​ 如果系统中的垃圾很多,复制算法需要复制的存活对象的数量不是很多,或者说非常低才行

清除阶段:标记-压缩算法

背景

​ 复制算法的高效性是建立在存活对象少、垃圾对象多的前提下的。这种情况在新生代经常发生,但是在老年代,更常见的情况是大部分对象都是存活对象。如果依然使用复制算法,由于存活对象较多,复制的成本也将很高。因此,基于老年代垃圾回收的特性,需要使用其它算法

​ 标记-清除算法却可以应用在老年代中,但是该算法不仅执行效率低下,而且在执行完内存回收后还会产生内存碎片,所以JVM的设计者需要在此基础之上进行改进。标记-压缩(Mark – Compact)算法由此产生

​ 1970年前后,G.L.Steele、G.J.Chene和D.S.Wise等研究者发布标记-压缩算法。在许多现代的垃圾收集器中,人们都使用了标记-压缩算法

​ 标记-压缩算法的最终效果等同于标记-清除算法执行完成后,再进行一次内存碎片的整理,因此,也可以把他称为标记-清除-压缩(Mark-Sweep-Compact)算法

​ 二者的本质差异在于标记-清除算法是一种非移动式的回收算法,标记-压缩是移动式的。是否移动回收后的存活对象是一项优缺点并存的风险决策

​ 可以看到,标记的存活对象将会被整理,按照内存地址依次排列,而未被标记的内存会被清理掉。如此一来,当我们需要给新对象分配内存时,JVM只需要持有一个内存的起始地址即可,这个比维护一个空闲列表显然少了许多开销

指针碰撞(Bump the Pointer)

​ 如果内存空间以规模和有序的方式分布,即已用和未用的内存都各自一边,彼此间维系着一个记录下一次分配起始点的标记指针,当为新对象分配内存时,只需要通过修改指针的偏移量将新对象分配在第一个空闲内存位置上,这种分配方式就叫做指针碰撞(Bump the Pointer)

优点

​ 消除了标记-清除算法当中,内存区域分散的缺点,我们需要给新对象分配内存时,JVM只需要持有一个内存的起始地址即可

​ 消除了复制算法当中,内存减半的高额代价

缺点

​ 从效率上说,标记-整理算法要低于复制算法

​ 移动对象的同时,如果对象被其他对象引用,则还需要调整引用地址

​ 移动过程中,需要全程暂停用户应用程序。即:STW

小结

对比三种算法

Mark-SweepMark-CompactCopying
速度中等最慢最快
空间开销少(但会堆积碎片)少(不堆积碎片)通常需要激活对象的2倍大小(不堆积碎片)
移动对象

​ 效率上来说,复制算法是当之无愧的老大,但是却浪费了太多内存。

​ 而为了尽量兼顾上面提到的三个指标,标记-整理算法相对来说更平滑一些,但是效率上不进人意,他比复制算法多了一个标记阶段,比标记-清除多了一个整理内存的阶段

分代收集算法

​ 前面所有的这些算法中,并没有一种算法可以完全替代其他算法,他们都具有自己的特点,分代收集算法应运而生

​ 分代收集算法,是基于这样一个事实:不同的对象的生命周期是不一样的。因此,不同生命周期的对象可以采取不同的收集方式,以便提高回收率。一般是把Java堆分为新生代和老年代,这样就可以根据各个年代的特点使用不同的回收算法,以提高垃圾回收的效率

​ 在Java程序运行的过程中,会产生大量的对象,其中有些对象是于业务信息相关,比如http请求中的Session对象、线程、Socket连接,这类对象跟业务直接挂钩,因此生命周期比较长。但是还有一些对象,主要是程序运行过程中生成的临时变量,这些对象生命周期会比较短,比如:String对象,由于其不变的类特性,系统会产生大量的这些对象,有些对象甚至只用一次即回收

​ 目前几乎所有的GC都是采用分代收集(Generational Collecting)算法执行垃圾回收的。

​ 在HotSpot中,基于分代的概念,GC所使用的内存回收算法必须结合年轻代和老年代各自的特点

​ 年轻代(Yong Gen)

​ 年轻代特点:区域相对老年代较小,对象生命周期短、存活率低,回收频繁

​ 这种情况复制算法的回收整理,速度是最快的。复制算法的效率只和当前存活对象的大小有关,因此很适用于年轻代的回收。而复制算法内存利用率不高的问题,通过hotspot中的两个survivor的设计得到缓解

​ 老年代(Tenured Gen)

​ 老年代的特点:区域较大,对象生命周期时间长、存活率高,回收不及新生代频繁

​ 这种情况存在大量存活率高的对象,复制算法明显变得不合适。一般由标记-清除与标记-整理-清除的混合实现

​ Mark阶段的开销与存活对象数量成正比

​ Sweep阶段的开销与管理区域的大小成正比

​ Compact阶段的开销与存活对象的数据成正比

​ 以HotSpot中的CMS回收器为例,CMS是基于Mark-Sweep实现的,对于对象的回收效率很高。而对于碎片问题,CMS采用基于Mark-Compact算法的Serial Old回收器作为补偿措施:当内存回收不佳(碎片导致的Concurrent Mode Failure时),将采用Serial Old执行Full GC达到对老年代内存的整理

​ 分代的思想被现有的虚拟机广泛使用。几乎所有的垃圾回收器都区分新生代和老年代

增量收集算法、分区算法

增量收集算法

​ 上述现有的算法,在垃圾回收过程中,应用软件将处于一种Stop the World的状态。在Stop the World状态下,应用程序所有的线程都会挂起,暂停一切正常的工作,等待垃圾回收的完成。如果垃圾回收时间过长,应用程序会被挂起很久,将严重影响用户体验或者系统的稳定性。为了解决这个问题,即对实时垃圾收集算法的研究直接导致了增量收集(Incremental Collecting)算法的诞生

基本思想

​ 如果一次性将所有的垃圾进行处理,需要造成系统很长时间的停顿,那么就可以让垃圾收集线程和应用程序线程交替执行。每次,垃圾收集线程只收集一小片区域的内存空间,接着切换到应用程序线程。依次反复,直到垃圾收集完成

​ 总的来说,增量收集算法的基础仍然是传统的标记-清除和复制算法。增量收集算法通过对线程间冲突的妥善处理,允许垃圾收集线程以分阶段的方式完成标记、清理和复制工作

缺点

​ 使用这种方式,由于在垃圾回收过程中,间断性地还执行了应用程序代码,所以能减少系统的停顿时间。但是,因为线程切换和上下文转换的消耗,会使得垃圾回收总体成本上升,造成系统吞吐量的下降

分区算法

​ 一般来说,在相同的条件下,堆空间越大,一次GC时所需要的时间就越长,有关GC产生的停顿也越长。为了更好的控制GC产生的停顿时间,将一块大的内存区域分割成多个小块,根据目标停顿时间,每次合理的回收若干个小区间,而不是整个堆空间,从而减少一次GC所产生的停顿

​ 分代算法将按照对象的生命周期长短划分为两个部分,分区算法将整个堆空间划分成连续的不同小区间

​ 每一个小区间都是独立使用,独立回收。这种算法的好处是可以控制一次回收多少个小区间

垃圾回收相关的概念

System,gc()的理解

​ 在默认情况下,通过System.gc()或者Runtime.getRuntime().gc()的调用,会显示触发Full GC,同时老年代和新生代进行回收,尝试释放被丢弃对象占用的内存

​ 然而System.gc()调用附带一个免责声明,无法保证对垃圾收集器的调用

​ JVM实现者可以通过System.gc()调用来决定JVM的GC行为。而一般情况下,垃圾回收应该是自动进行的,无需手动触发,否则就太过于麻烦,。在一些特殊情况下,如我们正在编写一个性能 基准,我们就可以在运行之间调用System.gc()

​ System.runFinalization();//强制调用使用引用对象的finalize()方法

内存溢出与内存泄漏

内存溢出(OOM)

​ 内存溢出相对于内存泄漏来说,尽管更容易被理解,但是同样的,内存溢出也是引发程序崩溃的罪魁祸首之一

​ 由于GC一直在发展,所有一般情况下,除非应用程序占用的内存增长的速度非常快,造成垃圾回收已经跟不上内存消耗的速度,否则不太容易出现OOM的情况

​ 大多数情况下,GC会进行各种年龄段的垃圾回收,实在不行就放大招,来一次独占式的Full GC操作,这时候会回收大量的内存,供应程序继续使用

​ Javadoc中对OutOfMemoryError的解释是,没有空闲内存,并且垃圾收集器也无法提供更多内存

​ 首先说没有空闲内存的情况:说明Java虚拟机的堆内存不够。原因有二:

Java****虚拟机在堆内存设置不够

​ 比如:可能存在内存泄漏问题;也很有可能就是堆的大小不合理,比如我们要处理比较可观的数据量,但是没有显示指定JVM堆大小或者指定数值偏小。我们可以通过参数-Xms -Xmx来调整

代码中创建了大量大对象,并且长时间不能被垃圾收集器收集(存在被引用)

​ 对于老版本的Oracle JDK,因为永久代的大小是有限制的,并且JVM对永久代垃圾回收(如,常量池回收、卸载不再需要的类型)非常不积极,所以当我们不断添加新类型的时候,永久代出现OutOfMemoryError也非常多见,尤其是在运行时存在大量动态类型生成的场合;类似intern字符串缓存占用太多空间,也会导致OOM问题。对应的异常信息,会标记出来和永久代相关:“java.lang.OutOfMemoryError: PermGen space”

​ 随着元数据区的引入,方法区内存以经不再那么窘迫,所以相应的OOM有所改观,出现OOM,异常信息则变成了:“java.lang.OutOfMemoryError: Metaspace”。直接内存不足,也会导致OOM

​ 这里面隐含着一层意思是,在抛出OutOfMemoryError之前,通常垃圾收集器会被触发,及其所能去清理出空间。

​ 例如:在引用机制去分析中,涉及到JVM会去尝试回收软引用指向的对象等

​ 在Java.nio.Bits.reserveMemory()方法中,我们能清除的看到,System.gc()会被调用,以清理空间

​ 当然,也不是在任何情况下垃圾收集器都会被触发的

​ 比如,我们去分配一个超大对象,类似一个超大数组超过堆的最大值,JVM可以判断出垃圾收集并不能解决这个问题,所以直接抛出OutOfMemoryError

内存泄漏

​ 也称作“存储渗漏”。严格来说,只有对象不会再被程序用到了,但是GC又不能回收他们的情况,才叫做内存泄漏

​ 但实际情况很多时候一些不好的实践(或疏忽)会导致对象的声明周期变得很长甚至导致OOM,也可以叫做宽泛意义上的“内存泄漏”

​ 尽管内存泄漏并不会立刻引起程序的崩溃,但是一旦发生内存泄漏,程序中的可用内存就会别逐渐蚕食,直至耗尽所有的内存,最终出现OutOfMemory异常,导致程序崩溃

​ 注意,这里的存储空间并不是指物理内存,而是指虚拟内存大小,这个虚拟内存大小取决于磁盘交换区设定的大小

Stop The World

​ Stop-the-world,简称STW,指的是GC事件发生过程中,会产生应用程序的停顿。停顿产生时整个应用程序线程都会被暂停,没有任何相应,有点像卡死的感觉,这个停顿称为STW

​ 可达性分析算法中枚举根节点(GC Roots)会导致所有Java执行线程停顿。

​ 分析工作必须在一个能确保一致性的快照中进行

​ 一致性指整个分析期间整个执行系统看起来像被冻结在某个时间节点上

​ 如果出现分析过程中对象引用关系还在不断变化,则分析结果的准确性无法保证

​ 被STW中断的应用程序线程会在完成GC之后恢复,频繁中断会让用户感觉像是网速不快造成电影卡带一样,所以我们需要减少STW的发生

​ STW事件和采用那款GC无关,所有的GC都有这个事件

​ 哪怕是G1也不能完去避免Stop-the-world情况发生,只能说垃圾回收器越来越优秀,回收效率越来越高,尽可能地缩短了暂停时间

​ STW是JVM在后台自动发起和自动完成的。在用户不可见的情况下,把用户正常的工作线程全部停掉

​ 开发中不要用System.gc();会导致Stop-the-world的发生

垃圾回收的并行与并发

并发(Concurrent)

​ 在操作系统中,是指一个时间段中有几个程序都处于已启动运行到运行完毕间,且这几个程序都是在同一个处理器上运行

​ 并发不是真正意义上的“同时进行”,只是把CPU把一个时间段划分成几个时间片段(时间区间),然后在这几个时间区间之间来回切换,由于CPU处理的速度非常快,只要时间间隔处理得当,即可让用户感觉是多个应用程序同时在进行

并行(Parallel)

​ 当系统有一个以上CPU时,当一个CPU执行一个进程时,另一个CPU可以执行另一个进程,两个进程互不抢占CPU资源,可以同时进行,我们称之为并行(Parallel)

​ 其实决定并行的因素不是CPU的数量,而是CPU的核心数量,比如一个CPU多个核也可以并行

​ 适合科学计算,后台处理等弱交互场景

并行VS并发

​ 二者对比

​ 并发,指的是多个事情,在同一时间段内同时发生了

​ 并行,指的是多个事情,在同一时间点上同时发生了

​ 并发的多个任务之间是互相抢占资源的

​ 并发的多个任务之前是不互相抢占资源的

​ 只有在多CPU或者一个CPU多核的情况中,才会发生并行

​ 否则,看似同时发生的事情,其实都是并发执行的

垃圾回收的并行与并发

​ 并行和并发,在谈论垃圾收集器上下文语境中,他们可以如下解释:

​ 并行(Parallel):指多条垃圾收集器线程并行工作,但是此时用户线程仍处于等待状态

​ 如:ParNew、Parallel Scavenge、Parallel Old;

​ 串行(Serial)

​ 相较于并行的概念,单线程执行

​ 如果内存不够,则程序暂停,启动JVM垃圾回收器进行垃圾回收。回收完,再启动程序的线程

​ 并发(Concurrent):指用户线程与垃圾收集线程同时执行(但不一定是并行的,可能会交替执行),垃圾回收线程在执行的时候不会停顿用户程序的运行

​ 用户程序在继续运行,而垃圾收集程序线程运行于另一个CPU上

​ 如:CMS、G1

安全点与安全区域

安全点(Safepoint)

​ 程序执行时并非在所有地方都能停顿下来开始GC,只有在特定的位置才能停顿下来开始GC,这些位置称为“安全点(Safepoint)

​ Safe Point的选择很重要,如果太少可能导致GC等待时间太长,如果太频繁可能会导致运行时的性能问题。大部分指令的执行时间都非常短暂,通常会根据“是否具有让程序长时间执行的特性“为标准。比如:选择一些执行时间较长的指令作为Safe Point,如方法调用、循环跳转和异常跳转等

​ 如果在GC发生时,检查所有的线程都跑到最近的安全点停顿下来呢?

​ 抢占式中断:(目前没有虚拟机采用了)

​ 首先中断所有线程。如果还有线程不安全,就恢复线程,让线程跑到安全点

​ 主动式中断:

​ 设置一个中断表示,各个线程运行到Safe Point的时候主动轮询这个标志,如果为true,则将自己进行中断挂起

安全区域(Safe Region)

​ Safepoint机制保证了程序执行时,在不太长的时间内就会遇到可进入GC的Safepoint。但是“不执行”的时候呢?例如线程处于sleep状态或Blocked状态,这时候线程无法相应JVM的中断请求,“走”到安全点区中断挂起,JVM也不太可能等待线程被唤醒。对于这种情况,就需要安全区域(Safe Region)来解决

​ 安全区域是指在一段代码中,对象的引用关系不会发生变化,在这个区域中的任何位置开始GC都是安全的。我们也可以把Safe Region看做是被扩展了的Safepoint

​ 实际执行:

​ 当线程运行到Safe Region的代码时,首先表示已经进入了Safe Region,如果这段时间内发生GC,JVM会忽略表示为Sage Region状态的线程

​ 当线程即将离开Safe Region时,会检查JVM是否已经完成GC,如果完成了,则继续执行,否则线程必须等待直到收到可以离开Safe Region的信号为止

引用

​ Reference子类中只有终结器引用是包内可见的,其他3三种类型均为public,可在应用程序中直接使用

强引用(StrongReference):最传统的“引用”的定义,是指在程序代码中普通存在的引用赋值,即类似“Object obj = new Object()”这种引用关系。无论任何情况下,只要强引用关系还存在,垃圾收集器就永远不会回收掉被引用的对象

软引用(SofrReference):在系统将要发生内存溢出之前,将会把这些对象列入回收范围之中进行二次回收。如果这次回收后还有没足够的内存,才会抛出内存溢出异常

弱引用(WeakReference):被弱引用关联的对象只能生存到下一次垃圾收集之前。当垃圾收集器工作时,无论内存空间是否足够,都会回收掉被引用关联的对象

虚引用(PhantomReference):一个对象是否虚引用的存在,完全不会对其生存间接构成影响,也无法通过虚引用来获得一个对象的实例。为一个对象设置虚引用关联的唯一目的就是在这个对象被收集器回收时收到一个系统通知

强引用(Strong Reference) – 不回收

​ 在Java程序中,最常见的引用类型是强引用(普通系统99%以上都是强引用),也就是我们最常见的普通对象引用,也是默认的引用类型

​ 当Java语言中使用new操作符创建一个新的对象,并将其赋给一个变量的时候,这个变量就成为该对象的一个强引用

​ 强引用的对象是可触及的,垃圾收集器就永远不会回收调用被引用的对象

​ 对于一个普通的对象,如果没有其他的引用关系,只要超过了引用的作用域或者显示的将相应(强)引用赋值为null,就是可以当作垃圾被收集了,当然具体回收时机还是要看垃圾收集策略

​ 相对的,软引用、弱引用和虚引用的对象时软可触及、弱可触及和虚可触及的,在一定条件下,都是可以被回收的。所以,强引用时在成Java内存泄漏的主要原因之一

​ 强引用可以直接访问目标对象

​ 强引用所指向的对象在任何死都都不会被系统回收,虚拟机宁愿抛出OOM异常,也不会回收强引用所指向对象

​ 强引用可能导致内存泄漏

软引用(Soft Reference)-内存不足即回收

​ 软引用时用来描述一些还有用,但非必须的对象。只被软引用关联着的对象,在系统将要发生内存溢出异常前,会把这些对象列进回收范围之中进行第二次回收,如果这次回收还没有足够的内存,才会抛出内存溢出异常

​ 软引用通常用来实现内存敏感的缓存。比如:高速缓存就有用到软引用。如果还有空闲内存,就可以暂时保留缓存,当内存不足时被清理掉,这样就保证了使用缓存的同时,不会耗尽内存

​ 垃圾回收器在某个时刻决定回收软可达的对象的时候,会清理软引用,并可选的把引用存放到一个引用队列(Reference Queue)

​ 类似弱引用,只不过Java虚拟机会尽量让软引用的存活时间长一些,迫不得已才清理

弱引用(Weak Reference)-发现即回收

​ 弱引用也是用来藐视那些非必须对象,只被弱引用关联的对象只能生存到下一次垃圾收集器发生为止。在系统GC时,只要发现弱引用,不管系统堆空间使用是否充足,都会回收掉只被弱引用关联的对象

​ 但是,由于垃圾回收的线程通常优先级很低,因此,并不一定能很快地发现持有弱引用地对象。这种情况下,弱引用对象可以存在较长地时间

​ 弱引用和软引用一样,在构造弱引用时,也可以指定一个引用队列,当弱引用对象被回收时,就会加入指定的引用队列,通过这个队列可以根据对象的回收情况

​ 软引用、弱引用都非常适合来保存那些可有可无的缓存数据。如果这么做,当系统内存不足时,这些胡演出数据会被回收,不会导致内存溢出。而当内存资源充足时,这些缓存数据又可以存在相当长的时间,从而起到加速系统的作用

虚引用(Phantom Reference)-对象回收跟踪

​ 也称为“幽灵引用”或者“幻影引用”,是所有引用类型中最弱的一个

​ 一个对象是否有虚引用的存在,完全不会决定对象的生命周期。如果一个对象仅持有虚引用,那么他和没有引用集合是一样的,随时都可能被垃圾收集器回收

​ 他不能单独使用,也无法听过虚引用来获取引用的对象。当试图通过虚引用的get()方法取得对象时,总是null

​ 为一个对象设置虚引用关联的唯一目的在于跟踪垃圾回收过程。比如:能在这个对象被收集器回收时收到一个系统通知

​ 虚引用必须和引用队列一起使用。虚引用在创建时必须提供一个引用队列作为参数。当垃圾回收收集器准备回收一个对象时,如果发现它还有虚引用,就会在回收对象后,将这个虚引用加入引用队列,以通知应用程序对象的回收情况

​ 由于虚引用可以跟踪都西昂的回收时间,因此也可以将一些资源释放操作放置在虚引用中执行和记录

终结器引用

​ 它用以实现对象的finalize()方法,也可以称为终结器引用

​ 无需手动编码,其内部配合引用队列使用

​ 在GC时,终结器引用入队。由Finalizer线程通过终结器引用找到被引用对象调用它的finalize()方法,第二次GC时才能回收被应用对象

垃圾回收器

GC分类与性能指标

垃圾收集器概述

​ 垃圾收集器没有在规范中进行过多的规定,可以由不同的厂商、不同版本的JVM来实现

​ 由于JDK的版本处于概述迭代的过程中,因此Java发展至今已经衍生了众多的GC版本

​ 从不同角度分析垃圾收集器,可以将GC分为不同的类型[冯8]

按线程数分,可以分为串行垃圾收集器和并行垃圾回收器

​ 串行回收指的是在同一时间段内只允许有一个CPU用于执行垃圾回收操作,此时工作线程被暂停,直至垃圾收集工作结束

​ 在诸如单CPU处理器或者较小的应用内存等硬平台不是特别优越的场合,串行回收的性能表现可以超过并行回收器和并发回收器。所以,串行回收默认被应用在客户端的Client模式下的JVM中

​ 在并发能力比较强的CPU上,并行回收器产生的停顿时间要短于串行回收器

​ 和串行回收相反,并行收集可以运用多个CPU同时执行垃圾回收,因此提升了吞吐量,不过并行回收仍然与串行回收一样,采用独占式,使用了“Stop the world”机制

按照工作模式分,可以分为并发式垃圾回收器和独占式垃圾回收器

​ 并发式垃圾回收器与应用程序线程交替工作,以尽可能减少应用程序的停顿时间

​ 独占式垃圾收集器(Stop the world)一旦运行,就停止应用程序中的所有用户线程,直到垃圾回收过程完全结束

按碎片处理方式分,可以分为压缩式垃圾回收器和非压缩式垃圾回收器

​ 压缩式垃圾回收器会在回收完成后,对存活对象进行压缩整理,消除回收后的碎片

​ 再分配对象空间使用:指针碰撞

​ 非压缩式的垃圾回收器不进行这步操作

​ 再分配对象空间使用:对象列表

按工作的内存区间分,又可分为年轻代垃圾回收器和老年代垃圾回收器

评估GC的性能指标

吞吐量:运行用户代码的时间占总运行时间的比例

​ (总运行时间:程序的运行时间 + 内存回收的时间)a / a + b越接近1越好

​ 垃圾收集开销:吞吐量的补数,垃圾收集所用时间与总运行时间的比例 b / a + b越接近0越好

暂停时间:执行垃圾收集时,程序的工作线程被暂停的时间(STW)

​ 收集频率:相对于应用程序的执行,收集操作发生的频率

内存占用:Java堆区所占用的内存大小

​ 快速:一个对象从诞生到被回收所经历的时间

​ 这三者共同构成一个“不可能三角”。三者总体的表现会随着计数进步越来越好。一款优秀的收集器通常最多同时满足其中的两项

​ 这三项里,暂停时间的重要性日益凸显。因为随着硬件发展,内存占用多越来越能容忍,硬件性能的提升的提升也有助于降低收集器运行时对应用程序的影响,即提高了吞吐量。而内存的扩大,对研制反而带来负面效果

​ 简单来说,主要抓住两点

​ 吞吐量

​ 暂停时间

评估GC的性能指标:吞吐量(throughput)

​ 吞吐量就是CPU用于运行用户代码的时间于CPU总消耗时间的比值,即吞吐量 = 运行用户代码时间 / (运行用户代码时间 + 垃圾收集时间)

​ 比如:虚拟机总共运行了100分钟,其中垃圾收集花掉了1分钟,那吞吐量就是99%

​ 这种情况下,应用程序能容忍较高的暂停时间,因此,高】吞吐量的应用程序有更长的时间基准,快速相应时不必考虑的

​ 吞吐量优先,意味着在单位时间内,STW的时间最短:0.2 + 0.2 = 0.4

image-20230127151057267

评估GC的性能指标:吞吐量VS暂停时间

​ 高吞吐量较好因为这会让应用程序的最终用户感觉只有应用程序线程在做“生产性”工作。直觉上,吞吐量越高程序运行越快

​ 低暂停时间(低延迟)较好因为从最终用户的角度来看不管是GC还是其他原因导致一个应用被挂起始终是不好的。这取决于应用程序的类型,有时又甚至短至200毫秒暂停都可能打断终端用户体验。因此,具有低的较大暂停时间是非常重要的,特别是对于一个交互式应用程序

​ 不幸的是“高吞吐量”和“低暂停时间”是一对相互竞争的目标(矛盾)。

​ 因为如果现在以吞吐量优先,那么必然需要降低内存回收的执行频率,但是这样会导致GC需要更长的暂停时间来执行内存回收

​ 相反的,如果选择以低延迟优先为原则,那么为了降低每次执行内存回收时的暂停时间,也只能频繁地执行内存回收,但这又引起了年轻代地缩减和导致程序吞吐量地下降

​ 在设计(或使用)GC算法时,我们必须确定我们的目标:一个GC算法只可能针对两个目标之一(即只专注于较大吞吐量或最小暂停时间),或尝试找到一个二者的折衷

​ 现在标准:在最大吞吐量优先的情况下,降低停顿时间

不同的垃圾回收概述

垃圾收集器发展史

​ 有了虚拟机,就一定需要收集垃圾的机制,这就是Garbage Collection,对应的产品我们称为Garbage Collector

​ 1999年随着JDK1.3.1一起来的时串行方式的Serial GC,它是第一款GC。ParNew垃圾收集器是Serial收集器的多线程版本

​ 2002年2月26日,Parallel GC和Concurrent Mark Sweep GC跟随JDK1.4.2一起发布

​ Parallel GC在JDK1.6之后称为HotSpot默认GC

​ 2012年,在JDK1.7u4版本中,G1可用

​ 2017年,JDK1.9中G1垃圾收集器变成默认垃圾收集器,代替CMS

​ 2018年3月,JDK10中G1垃圾回收器的并行完成垃圾收集器,实现并行性来改善最坏情况

​ 2018年9月,JDK11发布,引入Edsilon垃圾收集器,又被称为”NO-OP(无操作)”回收器。同时,引入ZGC:可伸缩的地研制垃圾收集器(Experimental)

​ 2019年3月,JDK12发布。增强G1,自动返回未用堆内存给操作系统。同时,引入Shenandoah GC:低停顿时间的GC(Experimental)

​ 2019年9月,JDK13发布。增强ZGC,自动返回未用堆内存给操作系统

​ 2020年3月,JDK14发布。删除CMS垃圾收集器。扩展ZGC在macOS和Windows上的应用

七款经典的垃圾收集器

​ 串行回收器:Serial、Serial Old

​ 并发回收期:ParNew、Parallel Scavenge、Parllel Old

​ 并发回收器:CMS、G1

七款经典收集器与垃圾分代之间的关系

image-20230127151119626

​ 新生代收集器:Serial、ParNew、Parallel Scavenge

​ 老年代收集器:Serial Old、Parallel Old、CMS

​ 整堆收集器:G1

垃圾收集器组合关系

image-20230127151122683

​ 两个收集器间有线连接,表明他们可以搭配使用

​ Serial/serial Old、Serial/CMS、ParNew/Serial Old、ParNew/CMS、Parallel Scavenge/Serial Old、Parallel Scavenge/Parallel Old、G1

​ 其中Serial Old作为CMS出现“Concurrent Mode Faulure”失败的后备预案

​ (红色虚线)由于委会和兼容性测试的成本,在JDK8时将Serial + CMS、ParNew + Serial Old这两个组合声明为废弃(JEP 173),并在JDK9中完全取消了这些组合的支持(JEP214)

​ (绿色虚线)JDK14中:弃用Parallel Scavenge和SerialOld GC组合(JEP 366)

​ (青色虚线)JDK14中:删除CMS垃圾收集器(JEP 363)

​ 为什么要有很多收集器,一个不够吗?因为Java的使用场景很多,移动端,服务器等。所以就需要针对不同的场景,提供不同的垃圾收集器,提高垃圾收集的性能

​ 虽然我们会对各个收集器进行比较,但并非为了挑选一个最好的收集器出来。没有一种放之四海而皆准、任何场景下都适用的完美收集器存在,更加没有万能的收集器。所以我i们选择的只是对虚体应用最合适的收集器

如何查看默认的垃圾收集器

​ -XX:+PrintCommandLineFlags:查看命令相关参数(包含使用的垃圾收集器)

​ 使用命令行指令:jinfo -flag 相关垃圾回收器参数 进程ID

Serial回收器:串行回收

​ Serial收集器是最基本、历史最悠久的垃圾收集器了。JDK1.3之前回收新生代唯一的选择

​ Serial收集器作为HotSpot中Client模式下默认新生代垃圾收集器

​ Serial收集器采用复制算法、串行回收和“Stop-the-World”机制的方式执行内存回收

​ 除了年轻代之外,Serial收集器还提供用于执行老年代垃圾收集的Serial Old收集器。Serial Old收集器同样也采用了串行回收和“Stop-the-World”机制,只不过内存会后算法使用的是标记-压缩算法

​ Serial Old是运行在Cloent模式下默认的老年代的垃圾收集器

​ Serial Old在Server模式下主要有两个用途:① 与新生代的Parallel Scavenge配合使用 ② 作为老年代CMS收集器的后备垃圾收集方案

image-20230127151128547

​ 这个收集器是一个单线程的收集器,但它的“单线程“的意义并不仅仅说明他会只使用一个CPU或一条收集线程去完成垃圾收集工作,更重要的是他在进行垃圾收集时,必须暂停其他所有的工作线程,直到它收集结束(Stop the World)

​ 优势:简单而高效(与其它收集器的单线程比),对于限定单个CPU的环境来说,Serial收集器由于没有线程交互的开销,专心做垃圾收集自然可以获得最高的单线程收集效率

​ 运行在Client模式下的虚拟机是个不错的选择

​ 在用户的桌面应用场景中,可用内存一般不大(几十MB至一两百MB),可以在较短时间内完成垃圾收集(几十ms至一百多ms),只要不频繁发生,使用串行回收是可以接受的

​ 在HotSpot虚拟机中,使用-XX:+UseSerialGC参数可以指定年轻代和老年代都使用串行收集器

​ 等价于 新生代用Serial GC,且老年代用Serial Old GC

ParNew回收器:并行回收

​ 如果说Serial GC是年轻代中的单线程垃圾收集器,那么ParNew收集器则是Serial收集器的多线程版本

​ Par是Parallel的缩写,new:只能处理的是新生代

​ ParNew收集器除了采用并行回收的方式执行内存回收外,两款垃圾收集器之间几乎没有任何区别。ParNew收集器在年轻代中同样也是采用复制算法,“Stop the World”机制

​ ParNew是很多JVM运行在Server模式下新生代的默认垃圾收集器

image-20230127151138320

​ 对于新生代,回收次数频繁没使用并行方式高效

​ 对于老年代,回收次数少,使用串行方式节省资源。(CPU并行需要切换线程,串行可以省去切换线程的资源)

​ 由于ParNew收集器是基于并行回收,那么是否可以断定ParNew收集器的回收效率在任何场景下都会比Serial收集器更高呢?

​ ParNew收集器运行在多CPU的环境下,由于可以充分利用多CPU、多核心等物理硬件资源有事,可以更快速地完成垃圾收集,提升程序的吞吐量

​ 但是在单个CPU的环境下,ParNew收集器不比Serial收集器更高效。虽然Serial收集器是基于串行回收,但是由于CPU不需要频繁的做任务切换,因此可以有效的避免多线程校核过程中产生的一些额外开销

​ 因为除Serial外,目前只有ParNew GC能与CMS收集器配合工作

​ 在程序中,开发人员可以通过选项“-XX:+UseParNewGC”手动指定使用ParNew收集器执行内存回收任务。它表示年轻代使用并行收集器,不影响老年代

​ -XX:ParallelGCThreads限制线程数量,默认开始和CPU数据相同的线程数

Parallel回收器:吞吐量优先

​ HotSpot的年轻代中除了拥有ParNew收集器是基于并行回收的以外,Parallel Scavenge收集器同样也采用了复制算法、并行回收和“Stop the world”机制

​ 那么Parallel收集器的出现是否多此一举?

​ 和ParNew收集器不同,Parallel Scavenge收集器的目标则是达到一个可控制的吞吐量(Throughput),它也被称为吞吐量优先的垃圾收集器

​ 自适应调节策略也是Parallel Scavenge与ParNew一个重要区别

​ 高吞吐量则可以高效率地利用CPU时间,尽快完成程序地运算任务,只要适合在后台运算而不需要太多交互的任务。因此,常见的服务器环境中使用。例如:那些执行批量处理、订单处理、工资支付、科学计算的应用程序

​ Parallel收集器在JDK6提供了用于执行来年代的垃圾收集器的Parallel Old收集器,用来代替老年代的Serial Old收集器

​ Parallel Old收集器采用了标记-压缩算法,但同样也是基于并行回收和“Stop the world”机制

image-20230127151143933

​ 在程序吞吐量优先的场景中,收集器和Parallel Old收集器的组合,在Server模式下的内存回收性能很不错

​ 在Java8,默认是此垃圾收集器

参数配置

​ -XX:+UseParallelGC 手动指定年轻代使用Parallel并行收集器执行内存回收任务

​ -XX:+UseParallelOldGC 手动指定老年代都是使用并行回收收集器。

​ 分别适用于新生代和老年代。默认JDK8是开启的

​ 上面两个参数,默认开启一个,另一个也会被开启。(互相激活)

​ -XX:OarallelGCThreads 设置年轻代并行收集器的线程数。一般地,最好与CPU数量相等,以避免过多的线程数影响垃圾收集性能

​ 在默认情况下,当CPU数量小于8个,ParallelGCThreads的值等于CPU数量

​ 当CPU数量大于8个,ParallelGCThreads的值等于 3+[5*CPU_Count]/8。

​ -XX:ManGCPaiseMillis 设置垃圾收集器最大的停顿时间(即STW的时间)。单位是毫秒

​ 为了尽可能地把停顿时间控制在MaxGCPauseMills以内,收集器在工作时会调整Java堆大小或者其他一些参数

​ 对于用户来讲,停顿时间越短体验越好。但是在服务器端,我们注重高并发,整体地吞吐量。所以服务器端适合Parallel,进行控制

​ 该参数谨慎使用

​ -XX:GCTimeRatio 垃圾收集时间占总时间的比例(=1 / (N + 1))。用于衡量吞吐量的大小

​ 取值范围(0,100)。默认值99,也就是垃圾回收时间不超过1%

​ 与前一个-XX:MaxGCPauseMillis参数有一定矛盾性。暂停时间越长,Radio参数就容易超过设定的比例

​ -XX:+UseAdaptiveSizePolicy 设置Parallel Scavenge收集器具有自适应调节策略

​ 在这种模式下,年轻代的大小、Eden和Survivor的比例、晋升老年代的对象年龄等参数会被自动调整,达到在堆大小、吞吐量和停顿时间之间平衡点

​ 在手动调优比较困难的场合,可以直接使用这种自适应的方式,仅指定虚拟机的最大堆、目标和吞吐量(GCTimeRatio)和停顿时间(MaxGCPauseMills),让虚拟机自己完成调优工作

CMS回收器:低延迟

​ 在JDK1.5时期,HotSpot推出了一款在强交互应用中几乎可以认为有划时代意义的垃圾收集器:CMS(Concurrent Mark Sweep)收集器,这款收集器是HotSpot虚拟机中第一款真正意义上的并发收集器,它第一次实现了让垃圾收集线程与用户同时工作

​ CMS收集器关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短(低延迟)就越适合与用户交互的程序,良好的相应速度能提升用户体验。

​ 目前很大一部分的Java应用集中在互联网或者B/S系统的服务端上,这类应用尤其重视服务器的相应速度,希望系统停顿时间最短,以给用户带来较好的体验。CMS收集器非常符合这类应用的需求

​ CMS的垃圾收集算法采用标记-清除算法,并且也会“Stop the world”

​ 不幸的是,CMS作为老年代的收集器,却无法与JDK1.4中已经存在的新生代收集器Parallel Scavenge配合工作,所以在JDK1.5中使用CMS来收集老年代的时候,新生代只能选择ParNew或者Serial收集器中的一个

​ 在G1出现之前,CMS使用还是非常广泛的。一直到今天,仍然有很多系统使用CMS GC

image-20230127151149531

CMS的工作原理

​ CMS整个过程比之前的收集器要复杂,整个过程分为4个主要阶段,即初始标记阶段、并发标记阶段和并发清理阶段

​ **初始标记(Initial-Mark)**节点:在这个阶段中,程序中所有的工作线程都将会因为“Stop the World”机制而出现短暂的暂停,这个阶段的主要任务仅仅只是标记出GC Roots能直接关联到的对象。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象比较小,所以这里的速度非常快

​ **并发标记(Concurrent-Mark)**阶段:从GC Roots的直接关联对象开始遍历整个对图像的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行

​ **重新标记(Remark)**阶段:由于在并发标记阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正并发标记期间,因用户线程继续运作而导致标记产生变动的那一部分对象的标记记录,这个阶段停顿的时间通常会比初始标记阶段稍微长一些,但也远比并发标记阶段的时间短

​ **并发清除(Concurrent Sweep)**阶段:此阶段清理删除掉标记节点判断已经死亡的对象,释放内存空间。由于不需要移动存活对象,所以这个节点也是可以与用户线程同时并发的

​ 尽管CMS收集器采用的是并发回收(非独占式),但是在其初始化标记和再次标记这两个阶段仍然需要执行“Stop the world”机制暂停程序中的工作线程,不过暂停时间不会太长,因此可以说明目前所有的垃圾收集器都做不到完成不需要“Stop the world”,只是尽可能地缩短暂停时间

​ 由于最耗费时间地并发标记与并发清除阶段都不需要暂停工作,所以整体地回收是低停顿的

​ 另外,由于在垃圾收集阶段用户线程没有中断,所以在CMS回收过程中,还应该确保应用程序用户线程有足够的内存可用。因此,CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,而是当堆内存使用率达到某一阈值时,便开始进行回收,以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。要是CMS运行期间预留的内存无法满足程序需求,就会出现一次“Concurrent Mode Failure”失败,这时虚拟机将启动后备预案:临时启用Serial Old收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了

​ CMS收集器的垃圾收集算法采用的时标记-清除算法,这意味着每次执行完内存回收后,由于被执行内存回收的无用对象所占用的内存空间极有可能是不连续的一些内存块,不可避免地将会产生一些内存碎片。那么CMS在为新对象分配内存空间时,将无法使用指针碰撞(Bump the Pointer)计数,而只能够选择空闲列表(Free List)执行内存分配

CMS****优点

​ 并发收集

​ 低延迟

CMS****弊端

​ 会产生内存碎片,导致并发清除后,用户线程可用的空间不足。无法分配大对象的情况下,不得不提前触发Full GC

​ CMS收集器对CPU资源非常敏感。在并发阶段,他虽然不会导致用户停顿,但是会因为占用了一部分线程而导致应用程序变慢,总吞吐量会降低

​ CMS收集器无法处理浮动垃圾。可能出现“Concurrent Mode Failure”失败而导致另一次Full GC的产生。在并发标记阶段由于程序的工作线程和垃圾收集线程是同时运行或者交叉运行的,那么在并发标记阶段如果产生新的垃圾对象,CMS将无法对这些垃圾对象进行标记,最终会导致这些新产生的垃圾对象没有被即时回收,从而只能在下一次执行GC时释放这些之前未被回收的内存空间

CMS收集器可以设置的参数

​ -XX:+UseConcMarkSweepGC手动指定使用CMS收集器执行内存回收任务

​ 开启该参数后会自动将-XX:UseParNewGC打开。即:ParNew(Yong区用)+CMS(Old区用)+Old的组合

​ -XX:CMSlnitiatingIccupanyFraction设置堆内存使用率的阈值,一旦达到该阈值,便开始进行会回收

​ JDK5及以前版本的默认值为68,即当老年代的空间使用率达到68%时,会执行一次CMS回收。JDK6及以上版本默认值为92%

​ 如果内存增长缓慢,则可以设置一个稍大的值,大的阈值可以有效的降低CMS的触发频率,减少老年代回收的次数可以较明显的改善应用程序性能。反之,如果应用程序内存使用率增长过快,则应该降低这个阈值,以避免频繁触发老年代串行收集器。因此通过该选项便可以有效的降低Full GC的执行次数

​ -XX:UseCMSCompactAtFullCollection用于指定在执行完Full GC后对内存空间进行压缩整理,以避免内存碎片的产生。不过由于内存压缩整理过程无法并发执行,所带来的问题就是停顿时间变得更长

​ -XX:CMSFullGCsBeforeCompaction设置在执行多少次Full GC后对内存空间进行压缩整理

​ -XX:ParallelCMSThreads设置CMS的线程数量

​ CMS默认启动的线程数时(ParallelGCThread+3)/4,ParallelGCThreads是年轻代并行收集器的线程数。当CPU资源比较紧张时,收到CMS收集器线程的影响,应用程序的性能在垃圾回收阶段可能会非常糟糕

小结

​ HotSpot有这么多的垃圾回收器,那么如果有人问,Serial GC、Oarallel GC、Cincurrent Mark Sweep GC这三个GC有什么不同呢?

​ 如果想要最小化地使用内存和并行开销,选择Serial GC

​ 如果想要最大化应用程序的吞吐量,请选择Parallel GC

​ 如果想要最小化GC的中断或停顿时间,请选择CMS

G1回收器:区域化分代式

既然我们已经有前面几个强大的GC,为什么还要发布Garbage First(G1)GC?

​ 原因就在于应用程序所应对的业务越来越大、复杂,用户越来越多,没有GC就不能保证应用程序正常执行,而经常造成STW的GC有跟不上实际的需求,所以才会不断地尝试对GC进行优化。G1(Garbage First)垃圾收集器是在Java7 update 4之后引入地一个新的垃圾回收器,是当今收集器技术发展地最前沿成果之一

​ 与此同时,为了适应限制不断扩大地内存和不断增加地处理器数量,进一步降低暂停时间(pause time),同时兼顾良好的吞吐量

​ 官方给G1设置的目标是在延迟可控的情况下获得尽可能高的吞吐量,所以才担当起“全功能收集器”的重任与期望

为什么名字叫做Garbage First(G1)呢?

​ 因为G1是一个并行回收器,它把分割为很多个不相关的区域(Region)(物理上不连续的)。使用不同的Region来表示Eden、幸存者0区,幸存者0区,幸存者1区,老年代等。

​ G1 GC有计划地避免在整个Java堆中进行全区域地垃圾回收。G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region。

​ 由于这种方式的侧重点在于回收垃圾最大的区间(Region),所以我们给G1一个名字;垃圾优先(Garbage First)。

​ G1(Garbage Frist)是一款面向服务端应用的垃圾收集器,主要针对配备多核CPU及大容量内存的机器,以及高概率满足GC停顿时间的同时,还兼具高吞吐量的性能特征

​ 在JDK1.7版本正式启用,移除了Experimental的表示,是JDK9以后默认垃圾收集器,取代了CMS回收以及Parallel + Parallel Old组合。被Oracle官方称为“全功能的垃圾收集器”

​ 与此同时,CMS已经在JDK9中被标记为废弃(deprecated)。在JDK8中还不是默认的垃圾回收器,需要使用-XX:+UseG1GC来启用

G1的特点

image-20230127151158871

image-20230127151202327

​ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-hgsYBHXf-1674808035331)(https://gitee.com/nfzwycmdxz/fax_img/raw/master/jvm/image-20230127151205936.png)]

G1的缺点

​ 相较于CMS,G1还不具备全方位、压倒性优势。比如在用户程序运行过程中,G1物理是为了垃圾收集产生的内存占用(Footprint)还是程序运行时的额外执行负债(Overload)都比CMS要高

​ 从经验上来说没在小内存应用上CMS表现大概率会优于G1,而G1在大内存应用上这发挥其优势。平衡点在6-8G之间

G1的使用场景

​ 面向服务端应用,针对具有大内存、多处理器的机器。(在普通大小的堆里表现并不好)

​ 最主要的应用时需要低GC延迟,并具有大堆的应用程序提供解决方案

​ 如:在堆大小也6G或更大时,可预测的暂停时间可以低于0.5秒;(G1通过每次只清理一部分而不是全部的Region的增量式清理来保证每次GC停顿时间不会过长)。

​ 来替换掉JDK1.5中的CMS收集器:在下面的情况时,使用G1可能比CMS好:

​ 超过50%的Java堆被活动数据占用

​ 对象分配频率或年代提升频率变化很大

​ GC停顿时间过长(长于0.5至1秒)

​ HotSpot垃圾收集器里,除了G1以外,其他的垃圾收集器使用内置的JVM线程执行GC的多线程操作,而G1 GC可以采用应用线程承担后台运行的GC工作,即当JVM的GC线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程

分区Region:化整为零

​ 使用G1收集器时,它将整个Java堆化分成约2048个大小相同的独立Region块,每个Region块大小根据堆空间的实际大小而定,整理被控制在1MB到32MB之间,且为2的N次幂,即1MB,2MB,4MB,8,16,32。可以通过-XX:G1HeapRegionSize设定。所有的Region大小相同,且在JVM生命周期内不会被改变

​ 虽然还保留有新生代和老年代的概念,但新生代和老年代不再是物理隔离的了,他们都是一部分Region(不需要连续)的集合。通过Region的动态分配方式实现了逻辑上的联系

image-20230127151221058

​ 一个region有可能属于Eden,Survivor或者Old/Tenured和Humongous内存区域。但是一个region只可能属于一个角色。图中的E表示该region属于Eden内存区域,s表示属于Survivor内存区域,o表示属于Old内存区域。图中空白的表示还未使用的内存区域

​ G1垃圾收集还增加了一种新的内存区域,叫做Humongous内存区域,如图中的H块。主要用于存储大对象,如果超过1.5个region,就放到H

​ 设置H的原因

​ 对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象,就会对垃圾收集器造成负面影响。为了解决这个问题,G1化分了一个Humongous区,它用来专门存放大对象。如果一个H区装不下一个大对象,那么G1会寻找连续的H区来存储。为了能找到连续的H区,有时候不得不启动Full GC。G1的大多数行为都把H区作为老年代的一部分来看待

G1回收垃圾的过程

​ G1 GC的垃圾回收过程主要包括如下三个环节:

​ 年轻代GC(YongGC)

​ 老年代并发标记过程(Concurrent Marking)

​ 混合回收(Minxed GC)

​ (如果需要,单线程、独占式、高强度的Full GC还是继续存在的。他针对GC的评估失败提供了一种失败的保护机制,即强力回收)

​ 应用程序分配内存,当年轻代的Eden区用尽开始年轻代回收过程;G1的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期,G1 GC暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到Survivor区间或者老年代区间,也有可能是两个区间移动存活对象到Survivor区间或者老年区间,也有可能是两个区间都会涉及

​ 当堆内存使用达到一定值(默认45%)时,开始老年代并发标记过程

​ 标记完成马上开始混合回收过程。对于一个混合回收期,G1 GC从老年代区间移动存活对象到空闲区间,这些空闲区间也就成为了老年代的一部分。和年轻代不同,老年代的G1回收器和其他GC不同,G1的老年代回收器不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的Region就可以了。同时,这个老年代Region是和年轻代一起被回收的

​ 举个例子:一个web服务器,Java进程最大的堆内存为4G,每分钟响应1500个请求,每45分钟会新分配大约2G内存。G1会每45秒进行一次年轻代回收,每31个小时整个堆的使用率会达到45%,会开始老年代并发标记过程,标记完成后开始四到五次的混合回收

Remembered Set

image-20230127151226141

G1回收过程一:年轻代GC

​ JVM启动时,G1先准备好Eden区,程序在运行过程中不断创建对象的Eden区,当Eden空间耗尽时,G1会启动一次年轻代垃圾回收过程

​ 年轻代垃圾回收只会回收Eden区和Survivor区

​ YGC时,首先G1停止应用程序的执行(STW),G1创建回收集(Collection Set),回收集是指需要被回收的内存分段的集合,年轻代回收过程的回收集包含年轻代Eden区和Survivor区所有的内存分段

​ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-scj0wrZt-1674808035333)(https://gitee.com/nfzwycmdxz/fax_img/raw/master/jvm/image-20230127151230932.png)]

G1回收过程二:并发标记过程

image-20230127151234368

G1回收过程三:混合回收

​ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-3KBvayuq-1674808035334)(https://gitee.com/nfzwycmdxz/fax_img/raw/master/jvm/image-20230127151237991.png)]

image-20230127151241645

G1回收过程四(可选):Full GC

image-20230127151245232

G1收集器优化建议

​ 年轻代大小

​ 避免使用-Xmn或-XX:NewRatio等相关选项显示设置年轻代大小

​ 固定年轻代的大小会覆盖暂停时间目标

​ 暂停时间目标不要太过严苛

​ G1 GC的吞吐量目标是90%的应用程序时间和10%的垃圾收集时间

​ 评估G1 GC的吞吐量时,暂停时间目标不要太严苛。目标他国严苛表示你愿意承受更多的垃圾回收开销,而这些会直接影响到吞吐量

垃圾回收器总结

内存分配与垃圾回收的参数列表

-XX:+PrintGC输出GC日志。类似:-verbose:gc
-XX:+PrintGCDetails`输出GC的详细日志
-XX:+PrintGCTimeStamps输出GC的时间戳(以基准时间的形式)
-XX:+PrintGCDateStamps输出GC的时间戳(以日期的形式)
-XX:+PrintHeapAtGC在进行GC的前后打印出堆的信息
-Xloggc:…/logs/gc.log日志文件的输出路径

image-20230127151254153

​ 截至JDK1.8,一共有7款不同的垃圾收集器。每一款不同的垃圾收集器都有不同的特点,在具体使用的时候,需要根据具体情况选用不同的垃圾收集器

​ Java垃圾收集器的配置对于JVM优化来说是一个很重要的选择,选择合适的垃圾收集器可以让JVM的性能有很大的提升

​ 怎样选择垃圾收集器?

​ 优先调整堆的大小让JVM自适应完成

​ 如果内存小于100M,使用串行收集器

​ 如果是单核、单机程序,并且没有停顿时间的要求,串行收集器

​ 如果是多CPU、需要高吞吐量、允许停顿时间超过1秒,选择并行或者JVM自己选择

​ 如果是多CPU、追求低停顿时间,需快速相应(比如延迟不能超过1秒,如互联网应用),使用并发收集器 官方推荐G1,性能高。现在互联网的项目,基本都是使用G1

最后明确一点:

​ 没有最好的收集器,更没有万能的收集

​ 调优永远是针对特定场景、特定需求,不存在一劳永逸的收集器

GC日志分析

image-20230127151259215

image-20230127151302752

垃圾回收器的新发展

image-20230127151307297


[冯1]虚拟机遇到一条new指令,首先去检查这个指令的参数能否在Metaspace的常量池中定位到一个类的符号引用,并且检查这个符号引用代表的类是否已经被加载、解析和初始化。(即判断类元信息是否存在)。如果没有,那么在双亲委派机制模式下,使用当前类加载器以ClassLoader + 包名 + 类名为Key进行查找对应的Class文件。如果没有找到文件,则抛出ClassNotFoundException异常,如果找到,则进行类加载,并生成对应的Class类对象

[冯2]首先计算对象占用空间大小,接着在堆中划分一块内存给新对象

如果实例成员变量是引用变量,仅分配引用变量空间即可,即4个字节大小(1)

[冯3]如果是规整空间,那么虚拟机将采用的是指针碰撞法(Bump The Pointer)来为对象分配内存

意思是所有用过的内存在一边,空闲的内存在另外一边,中间放着一个指针作为分界点的指示器,分配内存就仅仅把指针向空闲那边挪动一段距离罢了。如果垃圾收集器选择的是Serial,ParNew这种基于压缩算法的,虚拟机采用这种分配方式。一般使用带有compact(整理)过程的收集器时,使用指针碰撞

[冯4]如果内存不是规整的,已使用的内存和未使用的内存相互交错,那么虚拟机将采用的是空闲列表法来为对象分配内存。

意思是虚拟机维护了一个列表,记录上那些内存块是可用的,再分配的时候从列表中找到一块足够大的空间划分给对象实例,并更新列表上的内容。这种分配方式成为“空闲列表(Free List)”

[冯5]选择那种分配方式由Java堆是否规整决定的,而Java是否规整又由所采用的垃圾收集器是否带有压缩整理功能决定的

[冯6]将对象的所属类(即类的元数据信息)、对象的HashCode和对象的GC信息、锁信息等数据存储在对象的对象头中。这个过程的具体设置方法取决于JVM实现

[冯7]在Java程序的视角来看,初始化才正式开始。初始化变量成员、执行实例化代码块,调用类的构造方法,并把堆内对象的首地址赋值给引用变量。

因此一般来说(由字节码中是否跟随有invokespecial指令决定),new指令之后会接着就是执行方法,对象按照程序员的意愿进行初始化,这样一个真正可用的对象才算完全创建出来

[冯8]Java不同版本的新特性

​ 语法层面:Lambda表达式,switch、自动装箱,自动装箱、enum、<>。。。

​ API层面:StreamAPI、新的日期时间、Optional、String、集合框架

​ 底层优化:JVM的优化,GC的变化,元空间,静态域,字符串常量池

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值