多线程的上下文切换

一、CPU时间片

• CPU时间片即CPU分配给每个线程的执行时间段，称作它的时间片。CPU时间片一般为几十毫秒(ms)。

二、什么是上下文切换

CPU通过时间片段的算法来循环执行线程任务，而循环执行即每个线程允许运行的时间后的切换，而这种循环的切换使各个程序从表面上看是同时进行的。而切换时会保存之前的线程任务状态，当切换到该线程任务的时候，会重新加载该线程的任务状态。而这个从保存到加载的过程称之为上下文切换。

• 若当前线程还在运行而时间片结束后，CPU将被剥夺并分配给另一个线程。
• 若线程在时间片结束前阻塞或结束，CPU进行线程切换。而不会造成CPU资源浪费。

三、上下文切换造成的影响

我们可以通过对比串联执行和并发执行进行对比。

    private static final long count = 1000000;

    public static void main(String[] args) throws Exception {
        concurrency();
        series();
    }
    /**
     * 并发执行
     * @throws Exception
     */
    private static void concurrency() throws Exception {
        long start = System.currentTimeMillis();
        //创建线程执行a+=
        Thread thread = new Thread(new Runnable() {
            public void run() {
                int a = 0;
                for (int i = 0; i < count; i++) {
                    a += 1;
                }
            }
        });
        //启动线程执行
        thread.start();
        //使用主线程执行b--;
        int b = 0;
        for (long i = 0; i < count; i++) {
            b--;
        }
        //合并线程，统计时间
        thread.join();
        long time = System.currentTimeMillis() - start;
        System.out.println("Concurrency：" + time + "ms, b = " + b);
    }
    /**
     * 串联执行
     */
    private static void series() {
        long start = System.currentTimeMillis();
        int a = 0;
        for (long i = 0; i < count; i++) {
            a += 1;
        }
        int b = 0;
        for (int i = 0; i < count; i++) {
            b--;
        }
        long time = System.currentTimeMillis() - start;
        System.out.println("Serial：" + time + "ms, b = " + b + ", a = " + a);
    }

通过修改循环次数,对比串行运行和并发运行的时间测试结果：

循环次数	并发执行时间	串联执行时间
一百万	2ms	4ms
十万	2ms	2ms
一万	1ms	0ms

通过数据的对比我们可以看出。在一万以下的循环次数时，串联的执行速度比并发的执行速度块。是因为线程上下文切换导致额外的开销。

在Linux系统下可以使用vmstat命令来查看上下文切换的次数，如果要查看上下文切换的时长，可以利用Lmbench3，这是一个性能分析工具。

四、如何减少上下文切换导致额外的开销

减少上下文切换次数便可以提高多线程的运行效率。减少上下文切换的方法有无锁并发编程、CAS算法、避免创建过多的线程和使用协程。

• 无锁并发编程.当任何特定的运算被阻塞的时候，所有CPU可以继续处理其他的运算。换种方式说，在无锁系统中，当给定线程被其他线程阻塞的时候，所有CPU可以不停的继续处理其他工作。无锁算法大大增加系统整体的吞吐量，因为它只偶尔会增加一定的交易延迟。大部分高端数据库系统是基于无锁算法而构造的，以满足不同级别。

• CAS算法。Java提供了一套原子性操作的数据类型（java.util.concurrent.atomic包下），使用CAS算法来更新数据，不需要加锁。如:AtomicInteger、AtomicLong等。

• 避免创建过多的线程。如任务量少时，尽可能减少创建线程。对于某个时间段任务量很大的这种情况，我们可以通过线程池来管理线程的数量，避免创建过多线程。

• 协程：即协作式程序，其思想是，一系列互相依赖的协程间依次使用CPU，每次只有一个协程工作，而其他协程处于休眠状态。如：JAVA中使用wait和notify来达到线程之间的协同工作。