1.1 概念
进程
- 程序由指令和数据组成,但这些指令要运行,数据要读写,就必须将指令加载到CPU,数据加载到内存。在指令运行过程中还需要用到磁盘、网络等设备。进程就是用来加载指令、管理内存、管理IO的。
- 当一个程序被运行,从磁盘加载这个程序的代码至内存,这时就开启了一个进程。
- 进程就可以视为一个程序的实例。大部分程序可以同时运行多个实例进程(例如记事本、画图、浏览器等),也有的程序只能启动一个实例进程(例如网易云音乐、360安全卫士等)。
线程
- 一个进程之内可以分为一个到多个线程。
- 一个线程就是一个指令流,将指令流中的一条条指令以一定的顺序交给CPU执行。
- Java中,线程作为最小调度单位,进程作为资源分配的最小单位。在windows中进程是不活动的,只是作为线程的容器。
二者对比
- 进程基本上相互独立的,而线程存在于进程内,是进程的一个子集
- 进程拥有共享的资源,如内存空间等,供其内部的线程共享
- 进程间通信较为复杂
- 同一台计算机的进程通信称为IPC(Inter-process communication)
- 不同计算机之间的进程通信需要通过网络并遵守共同的协议,例如HTTP
- 线程通信相对简单,因为他们之间共享进程内的内存,一个例子就是多个线程可以访问同一个共享变量
- 线程更轻量,线程上下文切换成本一般上要比进程上下文切换低
1.2 并行与并发
单核CPU下,线程实际还是串行执行的。操作系统中有一个组件叫做任务调度器,将cpu的时间片(windows下时间片最小约为15毫秒)分给不同的程序使用,只是由于cpu在线程间(时间片很短)的切换非常快,人类感觉同时运行的。总结一句话就是:微观串行,宏观并行。一般将这种线程轮流使用cpu的做法成为并发,concurrent, 多核CPU同时运行为并行。
多核cpu下,每个核(core)都可以调度运行线程,这时候线程可以是并行的。
并发(concurrent)是同一时间应对(dealing with)多件事的能力
并行(parallel)是同一时间动手做(doing)多件事的能力
举例:
- 家庭主妇做饭、打扫卫生、给孩子喂奶,她一个人轮流交替做这多件事,这时就是并发。
- 家庭主妇雇了个保姆,她们一起这些事,这时既有并发,也有并行(这时会产生竞争,例如锅只有一口,一个人用锅时,另一个人就得等待) 这种情况比较多,计算机核数就那么多,并发并行共存。
- 雇了3个保姆,一个专做饭、一个专打扫卫生、一个专喂奶,互不干扰,这时是并行。
1.3 应用
以调用方角度来讲,如果
- 需要等待结果返回,才能继续运行就是同步。
- 不需要等待结果返回,就能继续运行就是异步。
1) 设计
多线程可以让方法执行变为异步的(即不要巴巴干等着)比如说读取磁盘文件时,假设读取操作花费了 5 秒钟如果没有线程调度机制,这 5 秒 cpu 什么都做不了,其它代码都得暂停…
2) 应用举例
- 比如在项目中,视频文件需要转换格式等操作比较费时,这时开一个新线程处理视频转换,避免阻塞主线程
- tomcat 的异步 servlet 也是类似的目的,让用户线程处理耗时较长的操作,避免阻塞 tomcat 的工作线程
- ui 程序中,开线程进行其他操作,避免阻塞 ui 线程
3)注意
需要在多核 cpu 才能提高效率,单核仍然时是轮流执行
4)结论
- 单核 cpu 下,多线程不能实际提高程序运行效率,只是为了能够在不同的任务之间切换,不同线程轮流使用cpu ,不至于一个线程总占用 cpu,别的线程没法干活
- 多核 cpu 可以并行跑多个线程,但能否提高程序运行效率还是要分情况的,有些任务,经过精心设计,将任务拆分,并行执行,当然可以提高程序的运行效率。但不是所有计算任务都能拆分(参考【阿姆达尔定律】) 也不是所有任务都需要拆分,任务的目的如果不同,谈拆分和效率没啥意义
- IO 操作不占用 cpu,只是我们一般拷贝文件使用的是【阻塞 IO】,这时相当于线程虽然不用 cpu,但需要一直等待 IO 结束,没能充分利用线程。所以才有后面的【非阻塞 IO】和【异步 IO】优化
1.4 多线程效率
使用多线程充分利用 CPU
基准测试工具选择,使用了比较靠谱的 JMH,它会执行程序预热,执行多次测试并平均
代码如下:
// 测试 验证多线程与单线程的处理效率
// JMH fork出指定个数的进程测试
@Fork(1)
// 测试类型 平均时间,即每次调用平均耗时
@BenchmarkMode(Mode.AverageTime)
// 预热,一般为保证测试准确性,要预热几次。
@Warmup(iterations = 3)
// 测量。测试多少轮。
@Measurement(iterations = 3)
public class MultiBenchMark {
static int[] ARRAY = new int[1_0000_0000];
static {
Arrays.fill(ARRAY, 1);
}
/**
* 4个线程
* @return
* @throws Exception
*/
@Benchmark
public int c() throws Exception {
int[] array = ARRAY;
FutureTask<Integer> t1 = new FutureTask<>(() -> {
int sum = 0;
for (int i = 0; i < 2500_0000; i++) {
sum += array[i];
}
return sum;
});
FutureTask<Integer> t2 = new FutureTask<>(() -> {
int sum = 0;
for (int i = 0; i < 2500_0000; i++) {
sum += array[2500_0000 + i];
}
return sum;
});
FutureTask<Integer> t3 = new FutureTask<>(() -> {
int sum = 0;
for (int i = 0; i < 2500_0000; i++) {
sum += array[5000_0000 + i];
}
return sum;
});
FutureTask<Integer> t4 = new FutureTask<>(() -> {
int sum = 0;
for (int i = 0; i < 2500_0000; i++) {
sum += array[7500_0000 + i];
}
return sum;
});
new Thread(t1).start();
new Thread(t2).start();
new Thread(t3).start();
new Thread(t4).start();
return t1.get() + t2.get() + t3.get() + t4.get();
}
/**
* 一个线程处理
* @return
* @throws ExecutionException
* @throws InterruptedException
*/
@Benchmark
public int d() throws ExecutionException, InterruptedException {
int[] array = ARRAY;
FutureTask<Integer> t1 = new FutureTask<>(() -> {
int sum = 0;
for (int i = 0; i < 1_0000_0000; i++) {
sum += array[i];
}
return sum;
});
new Thread(t1).start();
return t1.get();
}
public static void main(String[] args) throws RunnerException {
Options opt = new OptionsBuilder()
.include(MultiBenchMark.class.getSimpleName())
.result("result.json")
.resultFormat(ResultFormatType.JSON).build();
new Runner(opt).run();
}
}
结果:
Result "com.java.simple.study.juc.p1.MultiBenchMark.c":
0.018 ±(99.9%) 0.041 s/op [Average]
(min, avg, max) = (0.015, 0.018, 0.019), stdev = 0.002
CI (99.9%): [≈ 0, 0.058] (assumes normal distribution)
Result "com.java.simple.study.juc.p1.MultiBenchMark.d":
0.031 ±(99.9%) 0.003 s/op [Average]
(min, avg, max) = (0.031, 0.031, 0.031), stdev = 0.001
CI (99.9%): [0.029, 0.034] (assumes normal distribution)
Benchmark Mode Cnt Score Error Units
MultiBenchMark.c avgt 3 0.018 ± 0.041 s/op
MultiBenchMark.d avgt 3 0.031 ± 0.003 s/op