市场上有一些可用的 Java 虚拟机。
最常见的是 Oracle Hotspot JVM,它在 Java 社区中被广泛使用,主要是一些历史原因。
对于非常苛刻的应用程序,有一个很棒的替代方案,也就是 Azul Systems 的 Zing。
Zing 是标准 Oracle Hotspot JVM 的一个强大的替代品。Zing 解决了 GC 停顿和 JIT 编译问题。
接下来,让我们来研究一下 Java 的一些固有问题和可能的解决方案。
1. 了解 Java 的 JIT 编译器
像 C++ 这样的编程语言被称为编译型语言,因为发布的代码完全是二进制的,可以直接在 CPU 上执行。
PHP 或 Perl 被称为解释型语言,因为解释器 (安装在目标机器上) 会在运行时编译每一行代码。
Java 介于两者之间,它将代码编译成 Java 字节码,并在必要时再将其编译成二进制的。
Java 不在启动时编译代码的原因与后续的性能优化有关。通过观察应用程序运行并分析实时方法调用和类初始化情况,Java 对经常被调用的代码部分进行编译。它甚至可能会根据经验做出一些假设 (某些代码永远不会被调用,或者某个对象始终是一个字符串)。
编译过的代码执行速度非常快,但有三个缺点:
- 一个方法需要被调用一定次数才能达到编译阈值,然后才能被编译和优化 (这个阈值是可配置的,通常在 10000 次左右)。在此之前,未优化的代码不会“全速”运行。在更快的编译和高质量的编译之间存在折衷 (如果假设是错误的,就会发生编译成本)。
- 当 Java 应用程序重新启动时,我们又回到了起点,必须等待再次达到阈值。
- 有些应用程序有一些不常被调用但很关键的方法,这些方法只会被调用几次,但在被调用时需要非常快。
Zing 通过让它的 JVM“保存”已编译的方法和类的状态(也就是所谓的 profile)来解决这些问题。这个独特的功能叫做 ReadyNow,也就是说 Java 应用程序可以始终以最佳速度运行,即使是在重启之后。
当你使用已有的 profile 重新启动应用程序,Azul JVM 会立即收回以前的决策并直接编译重要的方法,以解决 Java 的预热问题。
此外,你也可以在开发环境中构建一个 profile 来模拟生产行为。优化后的 profile 能部署到生产环境中,并知道所有关键路径都已经过编译和优化。
下图显示了交易应用程序 (在模拟环境中) 的最大延迟。
Hotspot JVM 的延时峰值是显而易见的,而 Zing 的延时保持得相当稳定。
百分比分布表明,在 1% 的时间内,Hotspot JVM 发生的延迟是 Zing JVM 的 16 倍。
2. 解决垃圾回收停顿问题
第二个问题是在垃圾回收期间,整个应用程序可能会停顿几毫秒到几秒钟 (延迟会随着代码复杂性和堆大小的增加而增加),更糟糕的是,你无法控制这种情况何时发生。
虽然对很多 Java 应用程序来说,暂停应用程序几毫秒甚至几秒是可以接受的,但对于低延迟应用程序来说,这是一场灾难,无论是在汽车、航空航天、医疗还是金融领域。
GC 影响对于 Java 开发人员来说是一个很大话题,Full GC 通常也叫作“停止世界的停顿(stop-the-world)”,因为它会冻结整个应用程序。
多年来,有很多 GC 算法都试图降低吞吐量 (有多少 CPU 时间用于应用程序逻辑执行而不是垃圾回收) 和 GC 停顿 (我可以暂停应用程序多长时间)。
从 Java 9 发布以来,G1 一直是默认的垃圾回收器,其主要思想是根据用户提供的时间目标对 GC 停顿进行划分。它通常提供较短的停顿时间,但以降低吞吐量为代价。此外,停顿时间随着堆的大小而增加。
Java 提供了大量的设置参数,从堆大小到回收算法以及分配给 GC 的线程数。因此,Java 应用程序通常会配置大量的参数:
很多开发人员通过各种技术来避免 GC。最主要的是,如果我们少创建一些对象,那么后续要清除的对象就越少。
一种古老的 (仍然在使用) 技术是使用对象池。例如,数据库连接池可以保存 10 个已经打开的数据库连接,以便在需要时使用。
多线程通常需要锁,这会导致同步延迟和停顿 (特别是当它们共享资源时)。一种流行的方式是使用环形缓冲队列系统,多个线程可以在一个无锁的环境中(请参考 disruptor)进行读写操作。
https://lmax-exchange.github.io/disruptor/
一些专家甚至处于无奈而选择完全覆盖 Java 的内存管理机制,由自己来管理内存分配,这虽然解决了问题,但也带来了更多的复杂性和风险。
因此,我们需要考虑使用其他 JVM,于是我们决定尝试 Azul Zing JVM。
很快,我们就能够在几乎无停顿的情况下实现很高的吞吐量。
这是因为 Zing 使用了一个叫作 C4(Continuously Concurrent Compacting Collector,连续并发压缩回收器) 的垃圾回收器,它可以进行无停顿的垃圾回收,而不管 Java 堆有多大 (可以达到 8TB)。
这是通过在应用程序运行时并发映射和压缩内存来实现的。
此外,它不需要修改代码,而且延迟和速度方面的改进都是开箱即用的,不需要进行繁杂的配置。
Java 程序员可以享受到两方面的好处:Java 的简单性 (不需要担心创建太多的新对象) 和 Zing 的底层性能,允许系统中出现高度可预测的延迟。
GCeasy 提供了通用 GC 日志分析器,我们可以在真实的自动交易应用程序 (在模拟环境中) 中快速地对 JVM 进行比较。
https://gceasy.io/
读者福利
由于篇幅过长,就不展示所有面试题了,感兴趣的小伙伴
关注+点赞后,点击这里获取完整面试题(含答案)!
更多笔记分享
图片转存中…(img-0rkEpGYn-1628221187113)]
[外链图片转存中…(img-Q5PGkmPR-1628221187115)]
更多笔记分享