线程和同步的性能-线程池和ThreadPoolExecutor

线程和同步的性能

线程池和ThreadPoolExecutor

java服务器通常就是围绕用一个或多个线程池处理请求的概念构建，每个对服务器请求的调用都由一个线程池中的线程处理
1.线程池的大小对性能的影响-过大会造成性能损害

2.线程池的工作方式
任务被提交到队列
一定数量的线程从队列取出任务执行
执行的结果处理
执行结束后返回任务队列，要么等待要么继续执行

3.线程池的核心池大小和最大池大小
预先分配最小线程等待任务提交后处理任务，加快操作速度
线程需要系统资源，线程栈需要原生内存
最大线程起到限流作用，防止线程同时执行过多任务导致系统过载

设置最大核心池

硬件负载和每个任务的阻塞频率
数据库是瓶颈，任何外部资源都可能是瓶颈
不明就里的优化参数可能是一种错误的做法
排除物理学家发现自然的手段

设置最小核心池

简单起见，最小和最大设置为一样通常可以解决这个问题
将最小值设置1是为了启动不会创建过度
将预估的所需线程创建，然后考虑系统负载选择预期负载最大核心池
1.是否应该预先创建线程？
prestartAllCoreThreads()方法创建

线程池任务大小

当池中的一个线程可以执行任务，如果任务非常多，可能造成等待时间过长
可以通过配置不同的数据结构优化这个值
如果队列超出预定值，则发生拒绝异常——重写这个方法用一句话说明发生了什么

设置大小

线程池的标准行为理解：
通常从最小数量的线程开始，如果忙碌时又新增线程任务，池会启动新的线程完成任务–直到最大
如果已经设置了最大值，并且都在忙碌中，新的任务会被添加到队列中
如果等待的任务超出设定，则开始拒绝

队列数据结构

并发队列

如果所有线程都在忙碌，最小核心小于最大，新任务会启动新的线程
无法保留待处理的任务，不能等待处理
如果最大数量的线程都在工作，新任务会被拒绝
适合管理少量的任务,设置一个非常大的最大核心数，易于优化
Executors.newCachedThreadPool方法就是这种类型，最大线程数没有限制

无界队列

LinkedBlockingQueue 任务不会被拒绝
并行执行限制的线程数最多是核心池的大小，最大池大小会被忽略
tips:如果任务提交速度超过了运行速度可能会有内存风险
Executors.newFixedThreadPool 参数传入核心大小的无界队列线程池
Executors.newSingleThreadScheduledExecutor 1核心大小

有界队列

ArrayBlockingQueue 采用特有算法决定何时启动新的线程处理任务
如果队列数量已满使用核心线程处理队列任务
如果超出队列任务数量则启动新的线程处理
背后思想：
即使队列中有适量的任务等待运行，也只让核心线程处理，第一个限流器——核心线程数
如果任务挤压的太多，线程池就会运行更多的线程清理积压的任务，第二限流器——最大线程数
####### 如果系统中没有外部瓶颈，cup可用，时间会解决问题
####### 该算法并不会判断队列边长的原因，如果是外部积压原因，那么增加线程就危险了
在试图将性能最大化的时候可以使用KISS（keep it simple,stupid）
应用程序的需求决定其他选择。一般建议，不要使用默认的无界队列——无法控制内存
应该使用有界队列限制内存处理任务数量和设置参数的方式一起组合