1、并发基础

一、并行与并发

并发（Concurrency）是说进程B的开始时间是在进程A的开始时间与结束时间之间，我们就说A和B是并发的。
并行（Parallel Execution）是并发的真子集，指同一时间两个进程运行在不同的机器上或者同一个机器不同的核心上。

二、并发模型理论

Monitor模型
Java领域用多线程模型来实现并发，使用管程(Monitor)解决并发编程的两大核心问题：同步和互斥：JVM提供的同步锁synchronized
技术的本质是背后的理论模型，一个优秀的理论往往在多个语言中都有体现，在多个不同的领域中都有应用。
信号量模型(PV原语)
信号量模型可以概括为：一个计数器、一个等待队列、三个方法。只能通过信号量提供的三个方法来访问它，计数器和等待队列对外不可见。
具体应用如Java语言中的AQS。

三、并发编程BUG的源头：可见性、原子性、有序性

硬件有一个核心矛盾：CPU与内存、I/O设备的速度差异，系统软件(操作系统、编译器)为了提升硬件的综合利用率，在解决这个核心矛盾的同时，引入了可见性、原子性、有序性问题。
可见性：一个线程对共享变量的修改，另外一个线程能够立刻看到。多核CPU缓存会带来可见性问题。
原子性：CPU能保证的原子操作是CPU指令级别的，一个或多个操作在CPU执行的过程中不被中断的特性称为原子性。线程切换会带来原子性问题。
有序性：指程序按照代码的先后顺序执行，不过编译器、处理器为了提升性能会对指令重排序。

四、并发编程的挑战

在并发编程时，如果希望通过多线程执行任务让程序运行的更快，会面临非常多的挑战。另外，编程时建议使用JDK提供的并发容器和工具类，这些类都经过类充分的测试和优化。

1、上下文切换

CPU通过时间片分配算法来循环执行任务，CPU时间片一般几十毫秒(ms)。在切换至下一个任务前会保存上一个任务的状态。从保存A任务到加载B任务的过程就是一次上下文切换。任务切换的时机大多数是在时间片结束的时候，操作系统做任务切换，可以发生在任何一条CPU 指令执行结束时。

如何减少上下文切换：
无锁并发：多线程竞争锁，会引起上下文切换。
将数据ID按HASH算法分段，不同线程处理不同的段。
CAS算法：Java的Atomic包使用CAS算法来更新数据，而不需要加锁。
减少线程：避免创建不需要的线程，因为每一次从 WAITTING到RUNNABLE都会进行一次上下文的切换，WAITING的线程少了，系统上下文切换的次数就会少。

2、死锁

一组互相竞争资源的线程因互相等待，导致永久阻塞的现象，java.lang.Thread.State: BLOCKED (on object monitor)。细粒度锁容易引发死锁。
死锁出现需要同时满足四个条件：互斥、占有且等待、不可抢占、循环等待
如何规避死锁，破坏上述条件中的任一个：
1、破坏占有且等待：一次性申请所有资源，可使用等待/通知机制
2、破坏不可抢占：申请多个资源时，使用tryLock，超时则主动释放已占有的
3、破坏循环等待：对资源排序，按排序申请资源

3、资源限制

并发编程时，程序的执行速度受限于计算机硬件资源或软件资源。如硬件资源的带宽上传/下载速度、硬盘IO读写速度、CPU处理速度，软件资源的数据库连接数、socket连接数。
对硬件资源，可考虑集群，通过一些负载均衡算法来分配任务。对软件资源，可考虑使用资源池将资源复用。
在资源限制的情况下，要根据资源限制调整程序的并发度。