Netty-Netty线程模型

Netty

Netty线程模型概述

• 线程模型基本介绍
  • 不同的线程模型、对程序的性能有很大影响，为了搞清Netty的线程模式，需要了解各个线程模式
  • 目前存在的线程模型
    • 传统阻塞IO服务模型
    • Reactor模型
  • 根据Reactor的数量和处理资源线程的数量不同，有3中典型的实现
    • 单Reactor单线程
    • 单Reactor多线程
    • 主从Reactor多线程
  • Netty线程模型（Netty主要基于主从Reactor多线程模型做了一定的改进，其中主从Reactor多线程模型有多个Reactor）
• 传统阻塞I/O服务模型

  • 工作原理图

    • 黄色框表示对象，蓝色框表示线程，黑色表示API
    • 

  • 模型特点

    • 采用阻塞IO模式获取输入的数据
    • 每个连接都需要独立的线程完成数据的输入，业务处理和数据返回

  • 问题分析

    • 当并发数很大，就会创建大量的线程，占用很大的系统资源
    • 连接创建后，如果当前线程暂时没有数据可读，该线程会阻塞在read操作，造成线程资源浪费
• Reactor模式基本原理
  • Reactor的翻译：1.反应器模式，2.分发者模式，3.通知者模式
  • 针对传统阻塞I/O服务模型的两个缺点，解决方案
    • 基于I/O复用模型：多连接共用一个阻塞对象，应用程序只需要在一个阻塞对象等待，无需阻塞等待所有连接。当某个连接有新的数据可以处理时，操作系统通知应用程序，线程从阻塞状态返回，开始进行业务处理
    • 基于线程池复用线程资源：不必再为每个连接创建线程，将连接完成后的业务处理任务分配给线程进行处理，一个线程可以处理多个连接的业务。
• Reactor模式

  • I/O复用结合线程池，就是Reactor模式基本设计思想

    • 

  • Reactor模式，通过一个或多个输入同时传递给服务处理器的模式（基于事件驱动）

  • 服务器端程序处理传入的多个请求，并将它们同步分发到响应的处理线程，所以Reactor模式也叫分发模式

  • Reactor模式使用IO复用监听事件，收到事件后，分发给某个线程（进程），这点就是网络处理器高并发的处理关键

• Reactor模式中核心组成
  • Reactor：Reactor在一个单独的线程中运行，负责监听和分发事件，分发给适当的处理程序来对IO事件做出反应。
  • Handlers：Handler处理程序执行I/O事件要完成的实际事件（实际逻辑），Reactor通过调用适当的处理程序来响应I/O事件，处理程序执行非阻塞操作。
• 单Reactor单线程

  • 工作原理图

    • 

  • 说明

    • Select是前面I/O复用模型介绍的标准网络编API，可以实现应用程序通过一个阻塞对象监听多路连接请求
    • Reactor对象通过Select监控客户端请求事件，收到事件后通过Dispatch进行分发
    • 如果是建立连接请求事件，则由Acceptor通过Accept处理连接请求，然后创建一个Handler对象处理连接完成后的后续业务处理
    • 如果不是建立连接事件，则Reactor会分发调用连接对应的Handler来响应
    • Handler会完成Read-》业务处理-》Send的完成业务流程
    • 结合实例：服务器调用一个线程通过多路复用器复用搞定所有的IO操作（包括连接、读、写等），编码简单，清晰明了，但是如果客户端连接数量较多，将无法支撑，前面的NIO案例就属于这种模型

  • 单Reactor单线程方案优缺点分析

    • 优点：模型简单，没有多线程、进程通信、竞争的问题，全部都在一个线程中完成
    • 缺点：性能问题，只有一个线程，无法完全发挥多核CPU的性能。Handler在处理某个连接上的业务时，整个进程无法处理其他连接事件（这里是同步的体现），很容易导致性能瓶颈
    • 缺点：可靠性问题，线程意外终止，或者进入死循环，会导致整个通讯模块不可用，不能接受和处理外部消息，造成节点故障
    • 使用场景：适合用于客户端的数量有限，业务处理非常快，比如Redis在业务处理的时间复杂度O(1)的情况
• 单Reactor多线程

  • 工作原理示意图

    • 

  • 方案说明

    • Reactor对象通过select监控客户端请求事件，收到事件后，通过dispatch进行分发
    • 如果事件是建立连接请求事件，则Acceptor通过accept处理连接请求，然后创建一个Handler对象处理完成连接后的各种事件
    • 如果事件不是连接请求，则由Reactor分发调用对应的handler来处理
    • handler只负责响应事件，不做具体的业务处理，通过read读取数据后，会分发给后面的worker线程池的某个worker线程处理业务
    • worker线程池会分配独立线程完成真正的业务，并将结果返回给handler
    • handler接收到结果后，通过send将响应返回给client客户端

  • 单Reactor多线程模式的优缺点分析

    • 优点：可以充分的利用多核cpu的处理能力
    • 缺点：多线程会数据功能和访问比较复杂，reactor处理所有的事件的监听和响应，reactor是在单线程运行，在高并发场景容易出现性能瓶颈，整个系统的可靠性，还是在这个单线程的reactor上，如果这个reactor出现了异常，整个api还是会无法使用，不能接收和响应请求，整个节点故障
• 主从Reactor多线程

  • 工作原理示意图

    • 针对单Reactor多线程模型中，Reactor在单线程中运行，高并发场景下容易单Reactor成为性能瓶颈，可以让Reactor在多线程中运行
    • 

  • 方案说明

    • Reactor主线程MainReactor对象通过selector监听连接事件，收到事件后，通过Acceptor处理连接事件
    • 当Acceptor处理连接事件后，MainReactor将连接分配给SubReactor
    • subReactor将连接加入到连接队列进行监听，并创建handler进行各种事件处理
    • 当有新事件发生时（此时不可能是连接事件），subreactor就会调用对应的handler处理
    • handler通过read读取数据，分发给后面的worker线程处理
    • worker线程池分配独立的worker线程进行业务处理，并返回结果
    • handler收到响应的结果后，再通过send将结果返回给client
    • Reactor主线程可以对应多个Reactor子线程，即MainReactor可以关联多个SubReactor

  • 主从Reactor多线程方案优缺点说面

    • 优点：父线程与子线程的数据交互简单职责明确，父线程只需要接收新连接，子线程完成后续的业务处理
    • 优点：父线程与子线程的数据交互简单，Reactor主线程只需要把新连接传给子线程，子线程无需返回数据
    • 缺点：编程复杂度高
    • 结合实例：这种模型在许多项目中广泛应用，包括nginx主从Reactor多线程模型，Memcached主从线程，Netty主从多线程模型的支持
• Reactor模式小结
  • 3种模式用生活案例来理解
    • 单Reactor单线程，前台接待员和服务员是同一个人，全程为顾客服务
    • 单Reactor多线程，1个前台接待员，多个服务员，接待员只负责接待
    • 主从Reactor多线程，多个前台接待员，多个服务员
  • Reactor模式具有的优点
    • 响应快，不必为单个同步时间所阻塞，虽然Reactor本身依然是同步的
    • 减少资源开销，可以最大程度的避免复杂的多线程及同步问题，并且避免了多线程/进程的切换开销
    • 扩展性好，可以方便的通过增加Reactor实例个数来充分利用CPU资源
    • 复用性好，Reactor模型本身与具体事件处理逻辑无关，具有很高的复用性

Netty模型-通俗版

• 示意图1-简版

  • 模型

    • 

  • 说明

    • BossGroup线程维护Selector，只关注Accept事件
    • 当接收到Accept事件时，获取对应的SocketChannel，封装成NIOSocketChannel并注册到Worker线程（事件循环），并进行维护
    • 当Worker线程监听到selector中的通道发生了自己感兴趣的事件（非accept事件）后，就进行处理（就由handler），注意handler已经加入到通道
• 示意图2-进阶版
  • 

Netty模型-工作架构

• 工作原理示意图

  • 

  • 说明

    • Netty抽象出两组线程池BossGroup和WorkerGroup，其中BossGroup专门负责接收客户端的连接，WorkerGroup专门负责网络的读写
    • BossGroup和WorkerGroup类型都是NIOEventLoopGroup
    • NIOEventLoopGroup相当于一个事件循环组，这个组合中含有多个时间循环，每一个事件循环是一个NIOEventLoop
    • NIOEventLoop表示一个不断循环的处理任务的线程，每个NIOEventLoop都有一个selector，用于监听绑定在其上的socket的网络通讯
    • NIOEventLoop可以有多个线程，即可以含有多个NIOEventLoop
    • 每个Boss 的NIOEventLoop的步骤有3步
      • 轮训accept事件
      • 处理accept事件，与client建立连接，生成NIOEventSocketChannel，并将NIOEventSocketChannel注册到某个worker的NIOEventLoop的Selector上
      • 处理任务队列的任务，即runAllTasks
    • 每个Worker NIOEventLoop循环执行的步骤
      • 轮训read,write事件
      • 处理I/O事件，即read，write事件，在对应的NIOSocketChannel处理
      • 处理任务队列的任务，即runAllTasks
    • 每个Worker NIOEventLoop处理业务时，会使用pipline（管道），pipline中包含了channel，即通过pipline可以获取到对应通道，管道中维护了很多的处理器