netty作为一个高性能网络框架,基于java线程实现了自己的线程模型,即EventLoop事件循环。
传统线程模型
在传统的java网络编程中,IO逻辑是同步阻塞的。也就是说,每次创建一个socket连接,就会有一个线程与该socket绑定,该线程不会去处理其他socket。如果有100个请求同时到来,会使用100个线程来处理。如果有200个请求同时到来,但是线程池中只有100个线程,那就只会同时处理100个请求,剩下100个请求阻塞在队列中。
在实际的编程开发中,有两个原则:
- IO性能比计算性能低。按照传统模式进行网络编程,一个线程在其生命周期内,真正运行时间的比例是很低的,大部分时间处于阻塞状态以等待IO完成。
- 不同线程之间的上下文切换也是需要耗费性能。一旦线程数提高,成百上千的线程光是线程切换就会耗费大量时间,而这些线程中绝大部分都处于IO阻塞状态,真正工作的很少。
NIO
基于以上两点,java在1.4搞出来了NIO(非阻塞IO)模型。NIO的具体说明不在本文章的范围内,只需要明白一点:NIO不会像传统IO一样阻塞线程。一个线程可以处理多个IO请求,同时线程不会因为IO而进入阻塞状态,提高执行效率。
netty中的线程模型
netty是在java NIO的基础上,封装的一套异步非阻塞的网络框架。所以netty继承了NIO的特点:单线程处理多个IO的事件。基于NIO逻辑,netty封装了java的线程,形成了一套自己的线程模型:事件循环模型EventLoop。下文中的EventLoop既指事件循环这个概念,又指netty中的实际接口。
从名字上可以看出,EventLoop核心有两个:事件和循环。为了实现这两个核心,netty为EventLoop准备了一个单线程的executor,和一个存放事件的阻塞队列(事件为Runnable接口的实现)。而在整个EventLoop的执行过程内,大体上分为两个步骤:
- 从阻塞队列中取出准备好的事件,并顺序执行run()方法
- 循环步骤1
从这里就能看出与传统线程模型的不同:EventLoop在一个线程中不断执行Runnable的run()方法,传统线程模型是创建一个包含Runnable的Thread并执行start()方法。EventLoop单线程执行的好处是,省去了不同线程之间的上下文切换(因为从头到尾只有一个线程)。但是同样也会有问题:如果某一个事件进入了阻塞状态,后续所有事件都不会执行。这也就是netty中的一条金科玉律:
- 不要阻塞IO线程。
因为netty的IO线程属于事件循环,一旦阻塞会影响后续所有IO事件的执行。
事件循环模式是现代网络编程中常用的线程模式。许多高性能网络实现均采用该模型,例如Nginx、NodeJs