趣谈虚拟线程，用JDK21的虚拟线程大幅度提升程序性能

作者： John 

前言

    2023年9月19日，oracle 宣布JDK21发布release版本，这是继JDK17之后的一个新的长期支持版本(LTS)。JDK 21 号称有数千项性能，稳定性和安全性的改进，今天我就来和大家简单说说不少Javaer翘首以盼的一项新技术：虚拟线程。看看它到底是什么，以及它到底能给我们带来什么改变？

    虚拟线程是怎么回事，怎么来的？为什么会有它？想完全了解这个问题，让我们把时钟拨回30年前，随着个人电脑的技术发展，我们一起来了解下计算机技术的发展，你就能清楚为什么会有虚拟线程技术了。

单进程时代

    首先我们回到了30年前，那是Dos的时代，单进程时代。下图就是你们熟悉Dos系统。

在Dos的时代，整个操作系统只能运行一个程序，如果你想让电脑一边打字，一边播放音乐，对不起不支持，一台电脑同时只能运行一个程序是不是很浪费？

多进程，多线程时代

    大家看到单进程的局限性，如果能把CPU充分利用起来，让多个进程一起工作，那效率就能大大提高。于是各位大神开始发力，努力让PC计算机支持多进程（当然Unix此时早就支持了）。最终2位大家熟悉的选手脱颖而出，他们是：Linux 和Windows.  这时候一个操作系统终于可以同时运行多个进程了，得益于软件和硬件的飞速发展，我们可以在电脑上一边打字，一边听音乐了。究其本质，操作系统让每个进程都使用一部分时间片，让我们认为所有的进程都在并发运行。

    随后大家更进一步，开始了多线程的时代，多线程把一个进程内的资源分得更细，每个线程都独立运行，进程内的资源可以共享，效率更高，提高计算机系统CPU的利用率。相信各位小伙伴对它们非常熟悉。

高性能程序的秘密：

    人类如此努力地推动计算机发展，从单进程到多进程再到多线程，目的就是获得更高的性能。更高的性能意味着可以完成更多的工作，但是你知道高性能程序的秘密是什么吗？

    我觉得答案来自 “Numbers Everyone Should Know”（Jeff Dean） 请看下列一系列计算机的操作时间：

没什么感觉？我把所有的数字乘以10亿让你有个直观的理解。

    如果我们的CPU用1秒执行了一条语句，然后开始等待一个从美国发往欧洲的数据包，它需要等待了4.8年数据包才到来。如果程序什么都不做，那么CPU就被浪费了4.8年，那么一个高性能的程序会怎么做呢？高性能程序当然会在等待数据到来的4.8年里，让CPU都去干别的工作啊。高性能程序设计的本质，CPU太快，IO操作太慢，让CPU尽量地工作，而不是等待浪费。

在过去的日子里，大家总结了2种高性能程序的方案，它们分别是

1. asynchronous style

    这种方案在程序需要IO等待的时候，将流程切走，等IO操作完成后，再切回来继续操作，有很多高效而成功的例子，比如nginx。但是它的问题是对开发人员极度不友好。随着业务的不断复杂，可怕的回调地狱就出现了。

1. thread per request

    另一种方案就是大家常用的线程模式，我们用线程池来处理大量的请求，线程模式的好处，每个线程的处理是同步的，不存在复杂的烧脑回调，对程序员友好。但是它也有下面2个缺陷

1. 线程的资源消耗，不能无限扩展。每个线程都消耗一定资源，想开海量线程还做不到。
2. 线程间的切换代价太大，线程切换由操作系统介入完成的，代价很大。如果真的存在海量线程，操作系统管理起来也很困难。

虚拟线程解决方案

     我们已经知道目前开发高性能程序的方案和它们各自的缺点，asynchronous style 使用回调，性能高，但是对开发人员不友好， thread per request 对开发友好，同步编程，但是存在资源限制和切换成本。

    如有一个方案能兼顾2者的优点，那不就能解决问题了？

    对，虚拟线程就是这样一个方案。虚拟线程最大的优点就是 它保持了同步开发模式，在发生IO的时候，又能主动切换走了CPU，获取非常高的性能。同时因为它使用的资源非常小，可以开上100万个虚拟线程也完全没问题，所以虚拟线程在某些场景有远超普通线程的能力。

    正常情况下一个函数运行的时候，我们并不能将流程终止切走。运行的流程是按照左边的图进行的，而虚拟线程可以按右边的工作方式运行。

举个例子，正常情况下我们运行a() b() 2 个函数。

结果是这样的。

     我们用下面的代码模拟虚拟线程的工作流程。在下面的例子里，在函数a() 运行到第4行的时候，需要等待一个比较耗时的IO操作，这时候我们将流程切走,运行b()函数，等b()运行到第12行的以后，再切回第6行进行，这样就可以交替运行提高性能，也保持了同步开发的模式，减轻了开发者的心智负担。

      最后我们就能看到下面的运行结果，2个函数的输出内容是交叉在一起的，非常神奇。

牛刀小试

让我举个例子看看虚拟线程的威力吧。在下面代码里，我们准备了1万个任务，每个任务内容都是休眠0.5秒，我们分别用虚拟线程，100个线程，200个线程，400个线程，800个线程来完成这1万个任务，让我们看看差距吧。

 

输出结果：

时间对比

    从这个小小的例子里，我们已经能看出虚拟线程的威力了，它的效率轻松超过普通的800个线程，可以说是威力非凡。

    通过我的介绍，相信大家对虚拟线程已经有了初步的了解，当然虚拟线程也不是万能的银弹，它特别适合的场景是有海量IO请求的服务，如果是计算密集型的业务则不会有太多优势。相信在以后的工作中，大家都会把它用在恰当的地方，让程序的效率更高效，让开发工作更轻松。