Netty之线程模型

目前使用最多的线程模型：传统阻塞I/O服务模型，Reactor模型

Reactor模型又可以分为：单Reactor单线程，单Reactor多线程，主从Reactor多线程

Netty的线程模型是由主从Reactor多线程演化而来

说明：图中黄色框为对象，蓝色框为线程，白色框为方法

一、传统阻塞I/O服务模型

特性：1、采用阻塞IO模式获取输入的数据

           2、每个连接都需要独立的线程完成数据的输入，业务处理，数据返回。

缺点：1、当并发数很大，就会创建大量的线程，占用很大系统资源

           2、连接创建后，如果当前线程暂时没有数据可读，该线程会阻塞在read操作上，造成线程资源的浪费

扩展

同步阻塞、同步非阻塞、同步多路复用、异步阻塞（没有此情况）、异步非阻塞

当调用一次 channel.read 或 stream.read 后，会切换至操作系统内核态来完成真正数据读取，而读取又分为两个阶段

• 等待数据阶段
• 复制数据阶段

1、阻塞IO

2、非阻塞IO

3、多路复用

二、Reactor模型

基本概念

Reactor:在一个单独的线程中运行，负责监听和分发事件，分发给适当的处理程序来对IO事件做出反应。

Handlers:处理程序执行IO事件要完成的实际事件。

1、单Reactor单线程

说明：

（1）Reactor对象通过select监听客户端请求事件，收到事件后通过Dispatch进行分发

（2）如果建立的是连接请求事件，则Acceptor通过Accept处理连接请求，然后创建一个Handler对象处理连接完成后的后续业务处理。

（3）如果不是建立连接事件，则Reactor会分发调用连接对应的Handler来响应

（4）Handler会完成Read ——>业务处理——>send的完整的业务流程

优点：模型简单，没有多线程，进程通信，竞争问题，全部在一个线程中完成

缺点：1）性能问题，只有一个线程，无法完全发挥多核cpu的性能。Handler在处理某个连接上的业务，整个线程无法处理其他事件，容易导致性能瓶颈。

           2）可靠性问题，线程意外终止，或者进入死循环，导致整个系统通信模块不可用，造成节点故障。

2、单Reactor多线程

说明：

（1）Reactor对象通过select监听客户端请求事件，收到事件后通过Dispatch进行分发

（2）如果建立的是连接请求事件，则Acceptor通过Accept处理连接请求，然后创建一个Handler对象处理连接完成后的后续业务处理。

（3）如果不是建立连接事件，则Reactor会分发调用连接对应的Handler来响应

（4）handler只负责响应事件，不做具体业务，通过read读取数据后，会分发给后面的worker线程池的某个线程来处理业务

（5）worker线程池会分配独立的线程完成正真的业务，并将结果返回给handler

（6）handler收到响应后，通过send将结果返回给client。

优点：充分利用多核cpu的处理能力

缺点：多线程数据共享和访问比较复杂，reactor在单线程下处理所有的事件的监听和响应，在高并发场景下出现性能瓶颈。

3、主从Reactor多线程

说明：

（1）Reactor主线程MainReactor对象通过select监听连接事件，收到事件后，通过Acceptor处理连接事件

（2）当Acceptor处理连接事件后，mainReactor将连接分配给Subreactor

（3）subReactor将连接加入到连接队列进行监听，并创建Handler进行各种事件处理

（4）当由新的事件发送，subReactor会调用对应的handler处理

（5）handler通过read读取数据，分发给后面的worker线程处理

（6）worker线程池分配独立的work线程进行业务处理，并返回结果

（7）handler收到响应的结果后，再通过send将结果返回给client

（8）Reactor主线程可以对应多个Reactor的子线程，即MainReactor可以关联多个subReactor

优点：1）父线程与子线程的数据交互简单职责明确，父线程只需要接受新连接，子线程完成后续的业务处理

          2）父线程与子线程的数据交互简单，Reactor主线程只需要将新连接传给子线程，子线程无需返回数据

缺点：编程复杂度高

三、Netty线程模型

说明：

（1）Netty抽象出两组线程池，BossGroup专门负责接收连接，workerGroup专门负责网络的读写

（2）BossGroup和WorkerGroup类型都是NioEventLoopGroup

（3）NioEventLoopGroup相当于一个事件循环组，这个组中含有多个事件循环，每一个事件循环是NioEventLoop

（4）NioEventLoop表示一个不断循环的执行处理任务的线程，每个NioEventLoop都有一个selector，用于监听绑定在其上的socket的网络通讯

（5）NioEventLoopGroup可以有多个线程，即可以含有多个NioEventLoop

（6）每个BossNioEventLoop循环执行的步骤有3步

        1）轮询accept事件

        2）处理accept事件，与client建立连接，生成NioSocketChannel，并将其注册到某个worker NioEventLoop上的selector

        3）处理任务队列的任务，即runAllTasks

（7）每个worker NioEventLoop循环执行步骤

        1）轮询read,write事件

        2）处理IO事件，即read,write事件，在对应的NioSocketChannel处理

        3）处理任务队列的任务，即runAllTasks

（8）每个WorkerNioEventLoop处理业务时，会使用pipeline（包含管道channel）