说明
讲师:李智慧
JVM虚拟机原理
JVM 组成架构
Java 是一种跨平台的语言,JVM 屏蔽了底层系统的不同,为Java 字节码文件构造了一个统一的运行环境。
Windows, Mac OS, Android OS每个不同的环境下,执行引擎会不一样, 实现跨平台。
Tomcat 启动命令
java org.apache.catalina.startup.Bootstrap "@" start
当启动Tomcat之前,先会初始化JVM 虚拟机,Java虚拟机会启动一个主线程,Bootstrap会执行main方法,在方法区。 new 出来的对象A,是放在堆中的,创建对象是由执行引擎处理的。
Java字节码文件
Java 如何实现在不同操作系统、不同硬件平台上,都可以不用修改代码就能顺畅地执行?
计算机领域的任何问题都可以通过增加个中间层(虚拟层)来解决。
Java 所有的指令有 200 个左右,一个字节(8位)可以存储256种不同的指令信息,一个这样的字节称为字节码(Bytecode). 在代码的执行过程中,JVM将字节码解释执行,屏蔽对底层操作系统的依赖,JVM也可以将字节码编译执行,如果是热点代码,会通过JIT(just-in-time compilation即时编译)动态地编译为机器码,提高执行效率。
cafe babe 表示Java的字节码。
字节码执行流程
热点代码就提交编译,达到复用的效果。
Java 字节码文件编译过程
类加载器的双亲委托模型
低层次的当前类加载器,不能覆盖更高层次类加载器已经加载的类。如果低层次的类加载器想加载一个未知类,需要上级类加载器确认。只有当上级类加载器没有加载过这个类,也允许加载的时候,才让当前类加载器加载这个未知类。
自定义类加载器
- 隔离加载类:同一个JVM中不同组件加载同一个类的不同版本。
- 扩展加载源:从网络、数据库等处加载字节码。
- 字节码加密:加载自定义的加密字节码,在ClassLoader中解密。
堆 & 栈
堆:每个JVM实例唯一对应一个堆。应用程序在运行中所创建的所有类实例或数组都放在这个堆中,并由应用所有的线程共享。
堆栈:JVM为每个新创建的线程都分配一个堆栈。也就是说,对于一个 Java 程序来说,它的运行就是通过对堆栈的操作来完成的。
Java 中所有对象的存储空间都是在堆中分配的,但是这个对象的引用却是在堆栈中分配,也就是说在创建一个对象时从两个地方都分配内存。在堆中分配的内存实际建立这个对象,而在堆栈中分配的内存只是一个指向这个堆对象的引用而已。
方法区 & 程序计数器
方法区主要存放从磁盘加载进来的字节码,而在程序运行过程中创建的类实例则存放在堆里。程序运行的时候,实际上是以线程为单位运行的,当JVM进入启动类的 main 方法的时候,就会为应用程序创建一个主线程。 main 方法里的代码就会被这个主线程执行,每个线程有自己的 Java 栈,栈里存放着方法运行期的局部变量。而当前线程执行到哪一行字节码指令,这个信息则被存放在程序计数寄存器。
静态变量、静态方法放在方法区,只会有一个。
Java (线程)栈
所有在方法内定义的基本数据类型变量,都会被每个运行这个方法的线程放入自己的栈中,线程的栈彼此隔离,所以这些变量一定是线程安全的。
线程工作内存 & volatile
Java 内存模型规定在多线程情况下,线程操作主内存变量,需要通过线程独有的工作内存拷贝主内存变量副本来进行。
一个共享变量(类的成员变量、类的静态成员变量)被volatile 修饰之后,那么就具备了两层语义:
- 保证了不同线程对这个变量进行操作时的可见性,即一个线程修改了某个变量的值,这新值对其它线程来说是可见的。
- 禁止进行指令重排序。
工作内存:CPU的cache,寄存器。
用volatile修饰的变量,当该变量被修改时,确保数据刷到主内存中。保证数据的可见性,并不能保证数据的安全性,还是得需要锁。
Java 运行环境
JVM 的垃圾回收
JVM 垃圾回收即使将 JVM 堆中的已经不再被使用的对象清理掉,释放宝贵的内存资源。
JVM 通过一种可达性分析算法进行垃圾对象的标识。具体过程是:
- 从线程栈帧中的局部变量,或者方法区的静态变量出发,将这个变量引用的对象进行标记;
- 然后看这些被标记的对象是否引用了其它对象,继续进行标记;
- 所有被标记过的对象都是被使用的对象,而那些没有被标记的对象就是可回收的垃圾对象了。
进行完标记以后,JVM 就会对垃圾对象占用的内存进行回收,回收主要有三种方法:
- 清理:将垃圾对象占据的内存清理掉,其实 JVM 并不会真的将这些垃圾内存进行清理,而是将这些垃圾对象占用的内存空间标记为空闲,记录在一个空闲的列表里,当应用程序需要创建新的对象的时候,就从空闲列表中找一段空闲内存分配给这个对象。
- 压缩:从堆空间的头部开始,将存活的对象拷贝到一段连续的内存空间中,那么其余的空间就是连续的空闲空间。
- 复制:将堆空间分成两部分,只在其中一部分创建对象,当这个部分空间用完的时候,将标记过的可用对象复制到另一个空间中。
清理:把已经没用的空间标记为可用空间。
压缩:清理有个短板,空间不是连续的,压缩就是把还在用的copy放在前面。
复制:压缩还是需要成本的,速度较慢;分两块区域会更好一点。
JVM 分代垃圾回收
- 创建新对象在Eden区,当Eden区满了以后,就会进行Young GC,把在用的对象copy到From区;
- 当Eden区再次满了以后,再次进行YoungGC,把Eden区和From区的在用对象,copy到To区;
- 当多次Eden发送YoungGC,把一些还用的对象放到老年代;
- 当老年代满了以后,就会进行Full GC。这是要应用线程都要暂停,进行Full GC。
JVM垃圾回收器算法
- 串行回收器:当JVM空间满了以后,stop-the-world 停止所有应用程序的线程,进行垃圾回收。(以前的都是单CPU)
- 并行回收器:多CPU时代,当JVM空间满了以后,stop-the-world 多线程进行垃圾回收。(大数据用这种方式,效率比较高)
- 并发回收器CMS:初始化标记静态变量等以及引用的对象 > 并发标记 > 重标记(永远表不完对象,因为对象一直在创建。所以这个阶段也会stop-the-world) > 并发清理。(早期Web应用都是用这种方式,但是浪费计算资源比较多。)
- G1回收器(主流):效率更高,下面详细介绍。每次stop-the-world的时候,只会清理一部分区域,控制范围更小一些。
G1垃圾回收内存管理机制
把大的内存分为2000个小块。
配置参数: -XX:MaxGCPauseMillis
Java 启动参数
标准参数,所有的JVM 实现都必须实现这些参数的功能,而且向后兼容:
- 运行模式:
-server, -client
- 类加载路径:
-cp, -classpath
- 运行调试:
-verbose
- 系统遍历:
-D
非标准参数,默认 JVM 实现这些参数,但不保证所有 JVM 实现都实现,且不保证向后兼容:
-Xms
初始堆大小-Xmx
最大堆大小-Xmn
新生代大小-Xss
线程堆栈大小
一般 -Xms
和 -XMx
都是配置一样的。
非 Stable 参数,此类参数各个 JVM 实现会有所不同,将来可能会随时取消
-XX:-UseConcMarkSweepGC
启用 CMS 垃圾回收
JVM 性能诊断工具
基本工具: JPS, JSTAT, JMAP, JSTACK
集成工具: JConsole, JVisualVM
JPS
JPS 用来查看 host 上运行的所有 java 进程 pid (jvmid), 一般情况下所用这个工具的目的只是为了找出运行 JVM 继承 ID,即 Ivmid,然后可以进一步使用其它的工具来监控和分析 JVM。
常用的几个参数:
-l
输出 java 应用程序的 main class 的完整包-q
仅显示 pid,不显示其它任何相关信息-m
输出传递给 main 方法的参数-v
输出传递给 JVM 的参数。在诊断 JVM 相关问题的时候,这个参数可以查看 JVM 相关参数设置。
JSTAT
JSTAT (Java Virtual Machine statistics monitoring tool) 是 JDK 自带的一个轻量级小工具。主要对 Java 应用程序的资源和性能进行实时的命令行的监控,包括了对 Heap size 和垃圾回收情况的监控。
语法结构如下:jstat [Options] vmid [interval] [count]
Options
– 选项,我们一般使用- gcutil
查看 gc 情况。vmid
– VM 的进程号,即当前运行的 java 进程号。interval
– 间隔时间,单位为毫秒。count
– 打印次数,如果缺省则打印无数次。
参数解析:- S0 – Heap 上的 Survivor sapce 0 区已经使用空间的百分比;
- S1 – Heap 上的 Survivor sapce 1 区已经使用空间的百分比;
- E – Heap 上的 Eden sapce 区已经使用空间的百分比;
- O – Heap 上的 Old sapce 区已经使用空间的百分比;
- YGC – 从应用程序启动到采样时发生 Young GC 的次数;
- YGCT – 从应用程序启动到采样时发生 Young GC 所用的时间(单位秒);
- FGC – 从应用程序启动到采样时发生 Full GC 的次数;
- FGCT – 从应用程序启动到采样时发生 Full GC 所用的时间(单位秒);
- GCT – 从应用程序启动到采样时用于垃圾回收的总时间(单位秒).
JMAP
JMAP 是一个可以输出所有内存中对象的工具,甚至可以将 JVM 中的 heap,以二进制输出成文本。
使用方法:
jmap -histo pid>a.log
可以将其保存到文本中去,在一段时间后,使用文本对比工具,可以对比出GC回收了哪些对象。jmap -dump:format=b,file=f1 PID
可以将该 PID 进程的内存 heap 输出出来到 f1 文件里。
JSTAK
Jstack 可以查看jvm内的线程堆栈信息
JCONSOL
JVISULVM
Java代码优化
合理并谨慎使用多线程
- 使用场景(I/O 阻塞,多 CPU 并发)
- 资源争用与同步问题
- java.util.concurrrent
启动线程数 = [任务执行时间 / (任务执行时间 - IO 等待时间)] * CPU 内核数
- 最佳启动线程数和 CPU 内核数量成正比,和 IO 阻塞时间成反比。如果任务都是 CPU 计算型任务,那么线程数最多不超过 CPU 内核数,因为启动再多线程, CPU 也来不及调度;
- 相反如果是任务需要等待磁盘操作,网络响应,那么多启动线程有助于提高任务并发度,提高系统吞吐能力,改善系统性能。
竞态条件与临界区
在同一程序中运行多个线程本身不会导致问题,问题在于多个线程访问了相同的资源。
当两个线程竞争同一资源时,如果对资源的访问顺序敏感,就存在竞态条件。导致竞态条件发生的代码区称作临界区。
在临界区中使用适当的同步就可以避免竞态条件。
Java 线程安全
允许被多个线程安全执行的代码称作线程安全的代码。
- 方法局部变量:局部变量存储在线程自己的栈中。也就是说,局部变量永远也不会被多个线程共享。所以基础类型的局部变量是线程安全的。
- 方法局部的对象引用:如果在某个方法中创建的对象不会逃逸出该方法,那么它就是线程安全的。
- 对象成员变量:对象成员存储在对上。如果两个线程同时更新同一个对象的同一个成员,那么这个代码就不是线程安全的。
问题
-
Java Web 应用的多线程从哪儿来的?
多线程来自于容器。 -
Servlet 是线程安全的吗?
不安全回答:Servlet是单实例的。所以多个线程访问的时候,就会访问堆中的变量,所以是不安全的。
安全回答:一个Servlet本身是安全,但是你写了一个不安全的类,那么就是不安全的。
ThreadLocal
ThreadLocal 每个线程都单独维护自己的值
- 创建一个 ThreadLocal 变量(X类静态成员变量):
public static ThreadLocal myThreadLocal = new ThreadLocal();
- 存储此对象的值(A类 a方法):
X.myThreadLocal.set("A thread local value");
- 读取一个 ThreadLocal 对象的值 (B类 b 方法):
String threadLocalValue = (String)X.myThreadLocal.get();
ThreadLocal 的值都放在堆里面(既是共享的),每个线程都单独维护自己的值(又是独享的).
这是怎么办到的? 看看源码:
public void set(T value) {
Thread t = Thread.currentThread();
ThreadLocalMap = map = getMap(t);
if (map != null)
map.set(this, value);
else
createMap(t, value);
}
void createMap(Thread t, T firstValue) {
t.threadLocals = new ThreadLocalMap(this, firstValue);
}
t是线程的成员变量,所以获取到的就是自己的。
public Thread getMap(Thread t) {
return t.threadLocals;
}
Java 内存泄漏
Java 内存泄漏是由于开发人员的错误引起的。
如果程序保留对永远不再使用的对象的引用,这些对象将会占用并耗尽对象。
- 长生命周期对象;
- 静态容器;
- 缓存。
解决办法:创建弱引用对象。
合理使用线程池和对象池
- 复用线程或对象资源,避免在程序的生命周期中创建和删除大量对象。
- 池管理算法(记录哪些对象是空的)
合理使用线程池和对象池
- 复用线程或对象资源,避免在程序的生命周期中创建和删除大量对象。
- 池管理算法(记录哪些对象是空闲的,哪些对象正在使用)。
- 对象内容清除(ThreadLocal 的清空)。
使用合适的 JDK 容器类 (顺序表,链表,Hash)
- LinkList和ArrayList 的区别及适用场景。
- HashMap 的算法实现及应用场景。
- 使用 concurrent 包,ConcurrentHashMap 和 HashMap 的线程安全特性有什么不同?
缩短对象生命周期,加速垃圾回收
- 减少对象驻留内存的时间。
- 在使用时创建对象,用完释放。
- 创建对象的步骤(静态代码段 - 静态成员变量 - 父类构造函数 - 子类构造函数)
不用的对象,把对象设置为null,这样在在GC的时候就会被回收。
public class StaticClass {
static {
A a= new A();
}
public static void cc() {
System.out.println("cc()");
}
}
使用 I/O buffer 及 NIO
- 延迟写与提前读策略
- 异步无阻塞 IO 通信
优先使用组合代替继承
- 减少对象耦合
- 避免太深的继承层次带来的对象创建性能损失。
合理使用单例模式
- 无状态对象
- 线程安全
虚拟化所有层次
- 计算机的任何问题都可以通过间接层解决。
- 一致性 Hash 算法的虚拟化实现。
- 面向接口编程。
- 7层网络协议。