JUC并发编程——进程与线程

一、进程和线程的概念

1.1 进程

● 程序由指令和数据组成，但这些指令要运行，数据要读写，就必须将指令加载至 CPU，数据加载至内存。在指令运行过程中还需要用到磁盘、网络等设备。进程就是用来加载指令、管理内存、管理 IO 的

● 当一个程序被运行，从磁盘加载这个程序的代码至内存，这时就开启了一个进程。（Windows下程序的外在形式为.exe的文件）

● 进程就可以视为程序的一个实例。大部分程序可以同时运行多个实例进程（例如记事本、画图、浏览器等），也有的程序只能启动一个实例进程（例如网易云音乐、360 安全卫士等）

1.2 线程

● 一个进程之内可以分为一到多个线程。

● 一个线程就是一个指令流，将指令流中的一条条指令以一定的顺序交给 CPU 执行

● Java 中，线程作为最小调度单位，进程作为资源分配的最小单位。 在 windows 中进程是不活动的，只是作为线程的容器

1.3 进程与线程对比

● 进程基本上相互独立的，而线程存在于进程内，是进程的一个子集
● 进程拥有共享的资源，如内存空间等，供其内部的线程共享
● 进程间通信较为复杂
——同一台计算机的进程通信称为 IPC（Inter-process communication）
——不同计算机之间的进程通信，需要通过网络，并遵守共同的协议，例如 HTTP
● 线程通信相对简单，因为它们共享进程内的内存，一个例子是多个线程可以访问同一个共享变量
● 线程更轻量，线程上下文切换成本一般上要比进程上下文切换低

二、并行和并发的概念

单核 cpu 下，线程实际还是 串行执行 的。操作系统中有一个组件叫做任务调度器，会将 cpu 的时间片（windows下时间片最小约为 15 毫秒）分给不同的程序使用，只是由于 cpu 在线程间（时间片很短）的切换非常快，人类感
觉是 同时运行的 。总结为一句话就是： 微观串行，宏观并行 ，

一般会将这种 同一时刻线程轮流使用 CPU 的做法称为并发， concurrent

多核 cpu下，每个 核（core） 都可以调度运行线程，这时候线程可以是并行的。

引用 Rob Pike 的一段描述：
● 并发（concurrent）是同一时间应对（dealing with）多件事情的能力
● 并行（parallel）是同一时间动手做（doing）多件事情的能力

例子
● 家庭主妇做饭、打扫卫生、给孩子喂奶，她一个人轮流交替做这多件事，这时就是并发
● 家庭主妇雇了个保姆，她们一起做这些事，这时既有并发，也有并行（这时会产生竞争，例如锅只有一口，一个人用锅时，另一个人就得等待）

三、线程基本应用

3.1 多线程应用——异步调用

以调用方角度来讲，如果
● 需要等待结果返回，才能继续运行就是同步
● 不需要等待结果返回，就能继续运行就是异步
注意：同步在多线程中还有另一层意思，是让多个线程步调一致

* 应用之异步调用（案例1）

同步演示效果：必须等到方法调用完全结束方法返回后才能继续执行下面的代码（典型的同步调用）

异步演示效果：（①：读取操作执行的线程不同，读取操作开始结束都是由一个线程名称为Thread-0来执行的； ②：主线程并未等待Thread-0执行完）

1) 设计
多线程可以让方法执行变为异步的（即不要巴巴干等着）比如说读取磁盘文件时，假设读取操作花费了 5 秒钟，如果没有线程调度机制，这 5 秒 cpu 什么都做不了，其它代码都得暂停…而Java中如果希望方法的调用变为异步，只能使用多线程技术

2) 多线程针对异步操作的典型应用
①: 比如在项目中，视频文件需要转换格式等操作比较费时，这时开一个新线程用来处理视频转换，避免阻塞主线程/调用者线程，进而提高用户体验度
②: tomcat 的异步 servlet 也是类似的目的，让用户线程处理耗时较长的操作，避免阻塞 tomcat 的工作线程，进而提高整个Tomcat服务器的吞吐量
③: ui 程序中，开线程进行其他操作，避免阻塞 ui 线程

* 应用之提高效率（案例1）

充分利用多核 cpu 的优势，提高运行效率。想象下面的场景，执行 3 个计算，最后将计算结果汇总。

● 如果是串行执行，那么总共花费的时间是 10 + 11 + 9 + 1 = 31ms
● 但如果是四核 cpu，各个核心分别使用线程 1 执行计算 1，线程 2 执行计算 2，线程 3 执行计算 3，那么 3 个线程是并行的，花费时间只取决于最长的那个线程运行的时间，即 11ms 最后加上汇总时间只会花费 12ms

注意：需要在多核 cpu 才能提高效率，单核仍然时是轮流执行

1)环境搭建

■ 基准测试工具选择，使用了比较靠谱的JMH（JMH执行测试时需要使用Maven将其打为jar包，运行jar包即可）,它会执行程序预热，执行多次测试并平均

■cpu核数限制，有两种思路
—— 1.使用虚拟机，分配合适的核
—— 2.使用msconfig,分配合适的核，需要重启比较麻烦

■ 并行计算方式的选择

—— 1.最初想直接使用parallel stream,后来发现它有自己的问题
—— 2.改为了自己手动控制thread,实现简单的并行计算

■ 测试代码如下

mvn archetype:generate -DinteractiveMode=false -DarchetypeGroupId=org.openjdk.jmh -
DarchetypeArtifactId=jmh-java-benchmark-archetype-DgroupId=org.sample-DartifactId=test -Dversion=1.0

比较单线程与多线程下对1亿个数求和的差异
① 在物理机（多核）运行

package com.itcast;

import org.openjdk.jmh.annotations.*;

import java.util.Arrays;
import java.util.concurrent.FutureTask;

@Fork(1)
// 测试模式（选择统计程序最后执行的平均时间）
@BenchmarkMode(Mode.AverageTime)
// 热身次数（3次）
@Warmup(iterations=3)
// 进行5轮测试（最后获取平均值）
@Measurement(iterations=5)
public class MyBenchmark {
    // 对1亿个数进行求和；分析单/多线程下的差异
    static int[] ARRAY = new int[1000_000_00];
    static {
        Arrays.fill(ARRAY, 1);
    }
    @Benchmark
    // 4个线程，每个线程计算2.5千万个数
    public int c() throws Exception {
        int[] array = ARRAY;

        FutureTask<Integer> t1 = new FutureTask<>(()->{
            int sum = 0;
            for(int i = 0; i < 250_000_00;i++) {
                sum += array[0+i];
            }
            return sum;
        });
        FutureTask<Integer> t2 = new FutureTask<>(()->{
            int sum = 0;
            for(int i = 0; i < 250_000_00;i++) {
                sum += array[250_000_00+i];
            }
            return sum;
        });
        FutureTask<Integer> t3 = new FutureTask<>(()->{
            int sum = 0;
            for(int i = 0; i < 250_000_00;i++) {
                sum += array[500_000_00+i];
            }
            return sum;
        });
        FutureTask<Integer> t4 = new FutureTask<>(()->{
            int sum = 0;
            for(int i = 0; i < 250_000_00;i++) {
                sum += array[750_000_00+i];
            }
            return sum;
        });
        new Thread(t1).start();
        new Thread(t2).start();
        new Thread(t3).start();
        new Thread(t4).start();
        return t1.get() + t2.get() + t3.get()+ t4.get();
    }


    @Benchmark
    // 一个线程计算1亿个数
    public int d() throws Exception {
        int[] array = ARRAY;
        FutureTask<Integer> t1 = new FutureTask<>(()->{
            int sum = 0;
            for(int i = 0; i < 1000_000_00;i++) {
                sum += array[0+i];
            }
            return sum;
        });
        new Thread(t1).start();
        return t1.get();
    }
}

可以观察到在多线程下性能得到了明显的提升

2) 结论

1. 单核 cpu 下，多线程不能实际提高程序运行效率，只是为了能够在不同的任务之间切换，不同线程轮流使用cpu ，不至于一个线程总占用 cpu，别的线程没法工作

2. 多核 cpu 可以并行跑多个线程，但能否提高程序运行效率还是要分情况的
   ● 有些任务，经过精心设计，将任务拆分，并行执行，当然可以提高程序的运行效率。但不是所有 计算任务都能拆分（参考后文的【阿姆达尔定律】）
   ● 也不是所有任务都需要拆分，任务的目的如果不同，谈拆分和效率没啥意义

3. IO 操作不占用 cpu，只是我们一般拷贝文件使用的是【阻塞 IO】，这时相当于线程虽然不用 cpu，但需要一直等待 IO 结束，没能充分利用线程。所以才有后面的【非阻塞 IO】和【异步 IO】优化