多线程
1、解决多任务同时执行的需求,合理使用CPU资源。多线程的运行是由CPU切换完成,如何切换由CPU决定,因此多线程运行具有不确定性。
2、由于不同进程中的线程可能并发执行,因而Windows支持进程间的并发性。此外,同一个进程中的多个线程可以分配给不同的处理器并且同时执行。一个含有多线程的进程在实现并发时,不需要使用多进程的开销。同一个进程中的线程可以通过它们的公共地址空间交换信息,并访问进程中的共享资源。不同进程中的线程可以通过在两个进程间建立的共享内存交换信息。
3、(插入)并发与并行的关系:
- 并发:从宏观方面来说,并发就是同时进行多种事件,实际上,这几种事件,并不是同时进行的,而是交替进行的,而由于CPU的运算速度非常的快,会造成我们的一种错觉,就是在同一时间内进行了多种事情
- 并行:则是真正意义上的同时进行多种事情。这种只可以在多核CPU的基础上完成。
4、多进程和多线程的关系图:
线程池
1、概念
一种线程使用模式。线程过多会带来调度开销,进而影响缓存局部性和整体性能。而线程池维护着多个线程,等待着监督管理者分配可并发执行的任务。这避免了在处理短时间任务时创建与销毁线程的代价。线程池不仅能够保证内核的充分利用,还能防止过分调度。可用线程数量应该取决于可用的并发处理器、处理器内核、内存、网络sockets等的数量。
2、工作原理
- 在服务器程序启动时,创建固定数量(CPU的核数有关)的线程。这些线程的执行逻辑相同。将创建的线程维护在逻辑的池中(将所有创建的线程的执行阻塞),当主线程检测到有事件就绪,将就绪的事件通过某种方式传递给线程池中的一个线程(将一个线程唤醒)。
- 当服务器程序终止时,结束所有的线程。
3、线程池的应用场景
(1)需要大量的线程来完成任务, 且完成任务的时间比较短。
比如:WEB服务器完成网页请求时,使用线程池技术是非常合适的。因为单个任务小,而任务数量巨大,你可以想象一个热门网站的点击次数。
但对于长时间的任务,比如一个Telnet连接请求,线程池的优点就不明显了。因为Telnet会话时间比线程的创建时间大多了。
(2)对性能要求苛刻的应用,比如要求服务器迅速响应客户请求。
(3)接受突发性的大量请求,但不至于使服务器因此产生大量线程的应用。
突发性大量客户请求,在没有线程池情况下,将产生大量线程,虽然理论上大部分操作系统线程数目不存在最大值的问题,但是短时间内产生大量线程可能使内存到达极限,出现错误。