一:什么是上下文切换
CPU处理任务时不是一直只处理一个,而是通过给每个线程分配CPU时间片,时间片用完了就切换下一个线程。时间片非常短,一般只有几十毫秒,所以CPU通过不停地切换线程执行时我们几乎感觉不到任务的停滞,让我们感觉是多个线程同时执行。
CPU通过时间片分配算法来循环执行任务,当前任务执行一个时间片后会切换到下一个任务。但是,在切换前会保存上一个任务的状态,以便下次切换回这个任务时,可以再次加载这个任务的状态,从任务保存到再加载的过程就是一次上下文切换。
这样的切换是会影响多线程的执行效率的。
二:如何减少上下文切换来提高多线程程序的运行效率
线程的上下文切换分为让步式上下文切换和抢占式上下文切换。
前者是指执行线程主动释放CPU,与锁竞争严重程度成正比,可通过减少锁竞争来避免;
后者是指线程因分配的时间片用尽而被迫放弃CPU或者被其他优先级更高的线程所抢占,一般由于线程数大于CPU可用核心数引起,可通过调整线程数,适当减少线程数来避免。
1)无锁并发编程。锁竞争时会引起上下文切换,所以多线程处理数据时,可以用一些办法来避免使用锁,如将数据的ID按照Hash取模分段,不同的线程处理不同段的数据。
2)减少锁的使用,能用CAS代替锁时尽量用CAS代替。Java的Atomic包使用CAS算法来更新数据,而不需要加锁。
在多线程竞争下,加锁、释放锁会导致比较多的上下文切换和调度延时,引起性能问题。
多个线程使用CAS同时更新同一个变量时,只有其中一个线程能更新变量的值,而其它线程都失败,失败的线程并不会被挂起,而是被告知这次竞争中失败,并可以再次尝试(只要cpu分配给线程的时间片没有过,就可以不断的重试,但是时间片过后,如果还是没有成功,也会进行上下文切换,所以说只是减少了上下文切换)。
3)使用最少线程。避免创建不需要的线程,比如任务很少,但是创建了很多线程来处理,这样会造成大量线程都处于等待状态。
4)使用协程。在单线程里实现多任务的调度,并在单线程里维持多个任务间的切换。