高级网络编程-Netty

5 篇文章 0 订阅

Netty

Netty核心原理

Netty介绍

原生NIO存在的问题

  1. NIO 的类库和 API 繁杂,使用麻烦:需要熟练掌握 Selector、ServerSocketChannel、SocketChannel、ByteBuffer等。

  2. 需要具备其他的额外技能:要熟悉 Java 多线程编程,因为 NIO 编程涉及到 Reactor 模式,你必须对多线程和网络编程非常熟悉,才能编写出高质量的 NIO 程序。

  3. 开发工作量和难度都非常大:例如客户端面临断连重连、网络闪断、半包读写、失败缓存、网络拥塞和异常流的处理等等。

  4. JDK NIO 的 Bug:臭名昭著的 Epoll Bug,它会导致 Selector 空轮询,最终导致 CPU 100%。直到JDK 1.7版本该问题仍旧存在,没有被根本解决

    ​ 在NIO中通过Selector的轮询当前是否有IO事件,根据JDK NIO api描述,Selector的select方法会一直阻塞,直到IO事件达到或超时,但是在Linux平台上这里有时会出现问题,在某些场景下select方法会直接返回,即使没有超时并且也没有IO事件到达,这就是著名的epollbug,这是一个比较严重的bug,它会导致线程陷入死循环,会让CPU飙到100%,极大地影响系统的可靠性,到目前为止,JDK都没有完全解决这个问题。

概述

​ Netty 是由 JBOSS 提供的一个 Java 开源框架。Netty 提供异步的、基于事件驱动的网络应用程序框架,用以快速开发高性能、高可靠性的网络 IO 程序。 Netty 是一个基于 NIO 的网络编程框架,使用Netty 可以帮助你快速、简单的开发出一 个网络应用,相当于简化和流程化了 NIO 的开发过程。 作为当前最流行的 NIO 框架,Netty 在互联网领域、大数据分布式计算领域、游戏行业、 通信行业等获得了广泛的应用,知名的 Elasticsearch 、Dubbo 框架内部都采用了 Netty。

image-20240724160138833

从图中就能看出 Netty 的强大之处:零拷贝、可拓展事件模型;支持 TCP、UDP、HTTP、WebSocket 等协议;提供安全传输、压缩、大文件传输、编解码支持等等。

具备如下优点:

  1. 设计优雅,提供阻塞和非阻塞的 Socket;提供灵活可拓展的事件模型;提供高度可定制的线程模型。
  2. 具备更高的性能和更大的吞吐量,使用零拷贝技术最小化不必要的内存复制,减少资源的消耗。
  3. 提供安全传输特性。
  4. 支持多种主流协议;预置多种编解码功能,支持用户开发私有协议。

线程模型

线程模型基本介绍

​ 不同的线程模式,对程序的性能有很大影响,在学习Netty线程模式之前,首先讲解下 各个线程模式, 最后看看 Netty 线程模型有什么优越性.目前存在的线程模型有:

  • 传统阻塞 I/O 服务模型

  • Reactor 模型

    根据 Reactor 的数量和处理资源池线程的数量不同,有 3 种典型的实现

    • 单 Reactor 单线程
    • 单 Reactor 多线程
    • 主从 Reactor 多线程

传统阻塞 I/O服务模型

采用阻塞 IO 模式获取输入的数据, 每个连接都需要独立的线程完成数据的输入 , 业务处理和数据返回工作.

image-20240724160608115

存在问题:

  1. 当并发数很大,就会创建大量的线程,占用很大系统资源
  2. 连接创建后,如果当前线程暂时没有数据可读,该线程会阻塞在 read 操作,造成线程资源浪费

Reactor模型

​ Reactor 模式,通过一个或多个输入同时传递给服务处理器的模式 , 服务器端程序处理传入的多个请求,并将它们同步分派到相应的处理线程, 因此 Reactor 模式也叫 Dispatcher模式. Reactor 模式使用IO 复用监听事件,收到事件后,分发给某个线程(进程),这点就是网络服务器高并发处理关键.

  1. 单Reactor单线程

    image-20240724161013812

    • Selector是可以实现应用程序通过一个阻塞对象监听多路连接请求
    • Reactor 对象通过 Selector监控客户端请求事件,收到事件后通过 Dispatch 进行分发
    • 是建立连接请求事件,则由 Acceptor 通过 Accept 处理连接请求,然后创建一个 Handler 对象处理连接完成后的后续业务处理
    • Handler 会完成 Read→业务处理→Send 的完整业务流程

    优点:

    优点:模型简单,没有多线程、进程通信、竞争的问题,全部都在一个线程中完成

    缺点:

    1. 性能问题: 只有一个线程,无法完全发挥多核 CPU 的性能。Handler 在处理某个连接上的业务时,整个进程无法处理其他连接事件,很容易导致性能瓶颈
    2. 可靠性问题: 线程意外终止或者进入死循环,会导致整个系统通信模块不可用,不能接收和处理外部消息,造成节点故障
  2. 单Reactor多线程

    image-20240724161355484

    • Reactor 对象通过 selector 监控客户端请求事件, 收到事件后,通过 dispatch 进行分发
    • 如果建立连接请求, 则右 Acceptor 通过accept 处理连接请求
    • 如果不是连接请求,则由 reactor 分发调用连接对应的 handler 来处理
    • handler 只负责响应事件,不做具体的业务处理, 通过 read 读取数据后,会分发给后面的worker 线程池的某个线程处理业务
    • worker 线程池会分配独立线程完成真正的业务,并将结果返回给 handler
    • handler 收到响应后,通过 send 将结果返回给 client

    优点:

    可以充分的利用多核 cpu 的处理能力

    缺点:

    ​ 多线程数据共享和访问比较复杂, reactor 处理所有的事件的监听和响应,在单线程运行, 在高并发场景容易出现性能瓶颈

  3. 主从Reactor多线程

    image-20240724161725690

    • Reactor 主线程 MainReactor 对象通过 select 监听客户端连接事件,收到事件后,通过Acceptor 处理客户端连接事件
    • 当 Acceptor 处理完客户端连接事件之后(与客户端建立好 Socket 连接),MainReactor 将连接分配给 SubReactor。(即:MainReactor 只负责监听客户端连接请求,和客户端建立连接之后将连接交由 SubReactor 监听后面的 IO 事件。)
    • SubReactor 将连接加入到自己的连接队列进行监听,并创建 Handler 对各种事件进行处理
    • 当连接上有新事件发生的时候,SubReactor 就会调用对应的 Handler 处理
    • Handler 通过 read 从连接上读取请求数据,将请求数据分发给 Worker 线程池进行业务处理
    • Worker 线程池会分配独立线程来完成真正的业务处理,并将处理结果返回给 Handler。Handler 通过 send 向客户端发送响应数据
    • 一个 MainReactor 可以对应多个 SubReactor,即一个 MainReactor 线程可以对应多个SubReactor 线程

    优点:

    1. MainReactor 线程与 SubReactor 线程的数据交互简单职责明确,MainReactor 线程只需要接收新连接,SubReactor 线程完成后续的业务处理
    2. MainReactor 线程与 SubReactor 线程的数据交互简单, MainReactor 线程只需要把新连接传给 SubReactor 线程,SubReactor 线程无需返回数据
    3. 多个 SubReactor 线程能够应对更高的并发请求

    缺点:

    ​ 这种模式的缺点是编程复杂度较高。但是由于其优点明显,在许多项目中被广泛使用,包括Nginx、Memcached、Netty 等。这种模式也被叫做服务器的 1+M+N 线程模式,即使用该模式开发的服务器包含一个(或多个,1 只是表示相对较少)连接建立线程+M 个 IO 线程+N 个业务处理线程。这是业界成熟的服务器程序设计模式。

Netty线程模型

Netty 的设计主要基于主从 Reactor 多线程模式,并做了一定的改进。

  1. 简单版Netty模型

    image-20240724162155329

    • BossGroup 线程维护 Selector,ServerSocketChannel 注册到这个 Selector 上,只关注连接建立请求事件(主 Reactor)
    • 当接收到来自客户端的连接建立请求事件的时候,通过 ServerSocketChannel.accept 方法获得对应的 SocketChannel,并封装成 NioSocketChannel 注册到 WorkerGroup 线程中的Selector,每个 Selector 运行在一个线程中(从 Reactor)
    • 当 WorkerGroup 线程中的 Selector 监听到自己感兴趣的 IO 事件后,就调用 Handler 进行处理
  2. 进阶版Netty模型

    image-20240724162630457

    • 有两组线程池:BossGroup 和 WorkerGroup,BossGroup 中的线程专门负责和客户端建立连接,WorkerGroup 中的线程专门负责处理连接上的读写
    • BossGroup 和 WorkerGroup 含有多个不断循环的执行事件处理的线程,每个线程都包含一个 Selector,用于监听注册在其上的 Channel
    • 每个 BossGroup 中的线程循环执行以下三个步骤
      • 轮训注册在其上的 ServerSocketChannel 的 accept 事件(OP_ACCEPT 事件)
      • 处理 accept 事件,与客户端建立连接,生成一个 NioSocketChannel,并将其注册到WorkerGroup 中某个线程上的 Selector 上
      • 再去以此循环处理任务队列中的下一个事件
    • 每个 WorkerGroup 中的线程循环执行以下三个步骤
      • 轮训注册在其上的 NioSocketChannel 的 read/write 事件(OP_READ/OP_WRITE 事件)
      • 在对应的 NioSocketChannel 上处理 read/write 事件
      • 再去以此循环处理任务队列中的下一个事件
  3. 详细版Netty模型

    image-20240724162825930

    • Netty 抽象出两组线程池:BossGroup 和 WorkerGroup,也可以叫做BossNioEventLoopGroup和WorkerNioEventLoopGroup。每个线程池中都有NioEventLoop 线程。BossGroup 中的线程专门负责和客户端建立连接,WorkerGroup 中的线程专门负责处理连接上的读写。BossGroup 和 WorkerGroup 的类型都是NioEventLoopGroup
    • NioEventLoopGroup 相当于一个事件循环组,这个组中含有多个事件循环,每个事件循环就是一个 NioEventLoop
    • NioEventLoop 表示一个不断循环的执行事件处理的线程,每个 NioEventLoop 都包含一个Selector,用于监听注册在其上的 Socket 网络连接(Channel)
    • NioEventLoopGroup 可以含有多个线程,即可以含有多个 NioEventLoop
    • 每个 BossNioEventLoop 中循环执行以下三个步骤
      • select:轮训注册在其上的 ServerSocketChannel 的 accept 事件(OP_ACCEPT 事件)
      • processSelectedKeys:处理 accept 事件,与客户端建立连接,生成一个NioSocketChannel,并将其注册到某个 WorkerNioEventLoop 上的 Selector 上
      • runAllTasks:再去以此循环处理任务队列中的其他任务
    • 每个 WorkerNioEventLoop 中循环执行以下三个步骤
      • select:轮训注册在其上的 NioSocketChannel 的 read/write 事件(OP_READ/OP_WRITE 事件)
      • processSelectedKeys:在对应的 NioSocketChannel 上处理 read/write 事件
      • runAllTasks:再去以此循环处理任务队列中的其他任务
    • 在以上两个processSelectedKeys步骤中,会使用 Pipeline(管道),Pipeline 中引用了Channel,即通过 Pipeline 可以获取到对应的 Channel,Pipeline 中维护了很多的处理器(拦截处理器、过滤处理器、自定义处理器等)。

核心API介绍

ChannelHandler及其实现类

​ ChannelHandler 接口定义了许多事件处理的方法,我们可以通过重写这些方法去实现具 体的业务逻辑。API 关系如下图所示

image-20240724163552983

​ Netty开发中需要自定义一个 Handler 类去实现 ChannelHandle接口或其子接口或其实现类,然后通过重写相应方法实现业务逻辑,我们接下来看看一般都需要重写哪些方法

  • public void channelActive(ChannelHandlerContext ctx),通道就绪事件
  • public void channelRead(ChannelHandlerContext ctx, Object msg),通道读取数据事件
  • public void channelReadComplete(ChannelHandlerContext ctx) ,数据读取完毕事件
  • public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause),通道发生异常事件

ChannelPipeline

​ ChannelPipeline 是一个 Handler 的集合,它负责处理和拦截 inbound 或者 outbound 的事件和操作,相当于一个贯穿 Netty 的责任链.

image-20240724163713306

​ 如果客户端和服务器的Handler是一样的,消息从客户端到服务端或者反过来,每个Inbound类型或Outbound类型的Handler只会经过一次,混合类型的Handler(实现了Inbound和Outbound的Handler)会经过两次。准确的说ChannelPipeline中是一个ChannelHandlerContext,每个上下文对象中有ChannelHandler. InboundHandler是按照Pipleline的加载顺序的顺序执行, OutboundHandler是按照Pipeline的加载顺序,逆序执行

ChannelHandlerContext

​ 这 是 事 件 处 理 器 上 下 文 对 象 , Pipeline 链 中 的 实 际 处 理 节 点 。 每 个 处 理 节 点ChannelHandlerContext 中 包 含 一 个 具 体 的 事 件 处 理 器 ChannelHandler ,同时ChannelHandlerContext 中也绑定了对应的 ChannelPipeline和 Channel 的信息,方便对ChannelHandler 进行调用。常用方法如下所示:

  • ChannelFuture close(),关闭通道
  • ChannelOutboundInvoker flush(),刷新
  • ChannelFuture writeAndFlush(Object msg) , 将 数 据 写 到 ChannelPipeline 中 当 前ChannelHandler 的下一个 ChannelHandler 开始处理(出站)

ChannelOption

​ Netty 在创建 Channel 实例后,一般都需要设置 ChannelOption 参数。ChannelOption 是 Socket 的标准参数,而非 Netty 独创的。常用的参数配置有:

  • ChannelOption.SO_BACKLOG

    对应 TCP/IP 协议 listen 函数中的 backlog 参数,用来初始化服务器可连接队列大小。服务端处理客户端连接请求是顺序处理的,所以同一时间只能处理一个客户端连接。多个客户 端来的时候,服务端将不能处理的客户端连接请求放在队列中等待处理,backlog 参数指定 了队列的大小。

  • ChannelOption.SO_KEEPALIVE

    一直保持连接活动状态。该参数用于设置TCP连接,当设置该选项以后,连接会测试链接的状态,这个选项用于可能长时间没有数据交流的连接。当设置该选项以后,如果在两小时内没有数据的通信时,TCP会自动发送一个活动探测数据报文。

ChannelFuture

​ 表示 Channel 中异步 I/O 操作的结果,在 Netty 中所有的 I/O 操作都是异步的,I/O 的调用会直接返回,调用者并不能立刻获得结果,但是可以通过 ChannelFuture 来获取 I/O 操作 的处理状态。

常用方法如下所示:

  • Channel channel(),返回当前正在进行 IO 操作的通道
  • ChannelFuture sync(),等待异步操作执行完毕,将异步改为同步

EventLoopGroup和实现类NioEventLoopGroup

​ EventLoopGroup 是一组 EventLoop 的抽象,Netty 为了更好的利用多核 CPU 资源,一般 会有多个EventLoop 同时工作,每个 EventLoop 维护着一个 Selector 实例。

​ EventLoopGroup 提供 next 接口,可以从组里面按照一定规则获取其中一个 EventLoop 来处理任务。在 Netty 服务器端编程中,我们一般都需要提供两个 EventLoopGroup,例如:BossEventLoopGroup 和 WorkerEventLoopGroup。 通常一个服务端口即一个 ServerSocketChannel对应一个Selector 和一个EventLoop线程。 BossEventLoop 负责接收客户端的连接并将SocketChannel 交给 WorkerEventLoopGroup 来进 行 IO 处理,如下图所示:

image-20240724164647822

​ BossEventLoopGroup 通常是一个单线程的 EventLoop,EventLoop 维护着一个注册了ServerSocketChannel 的 Selector 实例,BossEventLoop 不断轮询 Selector 将连接事件分离出来, 通常是 OP_ACCEPT 事件,然后将接收到的 SocketChannel 交给 WorkerEventLoopGroup,WorkerEventLoopGroup 会由 next 选择其中一个 EventLoopGroup 来将这个 SocketChannel 注册到其维护的 Selector 并对其后续的 IO 事件进行处理。一般情况下我们都是用实现类NioEventLoopGroup.

常用方法如下所示:

  • public NioEventLoopGroup(),构造方法,创建线程组
  • public Future<?> shutdownGracefully(),断开连接,关闭线程

ServerBootstrap和Bootstrap

​ ServerBootstrap 是 Netty 中的服务器端启动助手,通过它可以完成服务器端的各种配置;Bootstrap 是 Netty 中的客户端启动助手,通过它可以完成客户端的各种配置。常用方法如下 所示:

  • public ServerBootstrap group(EventLoopGroup parentGroup, EventLoopGroup childGroup), 该方法用于服务器端,用来设置两个 EventLoop
  • public B group(EventLoopGroup group) ,该方法用于客户端,用来设置一个 EventLoop
  • public B channel(Class<? extends C> channelClass),该方法用来设置一个服务器端的通道 实现
  • public B option(ChannelOption option, T value),用来给 ServerChannel 添加配置
  • public ServerBootstrap childOption(ChannelOption childOption, T value),用来给接收到的通道添加配置
  • public ServerBootstrap childHandler(ChannelHandler childHandler),该方法用来设置业务 处理类(自定义的 handler)
  • public ChannelFuture bind(int inetPort) ,该方法用于服务器端,用来设置占用的端口号
  • public ChannelFuture connect(String inetHost, int inetPort) ,该方法用于客户端,用来连接服务器端

Unpooled类

这是 Netty 提供的一个专门用来操作缓冲区的工具类,常用方法如下所示:

​ public static ByteBuf copiedBuffer(CharSequence string, Charset charset),通过给定的数据 和字符编码返回一个 ByteBuf 对象(类似于 NIO 中的 ByteBuffer 对象)

Netty入门案例

Netty 是由 JBOSS 提供的一个 Java 开源框架,所以在使用得时候首先得导入Netty的maven坐标

<dependency>
    <groupId>io.netty</groupId>
    <artifactId>netty-all</artifactId>
    <version>4.1.42.Final</version>
</dependency>
Netty服务端编写
  1. 创建bossGroup线程组: 处理网络事件–连接事件
  2. 创建workerGroup线程组: 处理网络事件–读写事件
  3. 创建服务端启动助手
  4. 设置bossGroup线程组和workerGroup线程组
  5. 设置服务端通道实现为NIO
  6. 参数设置
  7. 创建一个通道初始化对象
  8. 向pipeline中添加自定义业务处理handler
  9. 启动服务端并绑定端口,同时将异步改为同步
  10. 关闭通道和关闭连接池

代码实现:

package com.ajie.netty;

import io.netty.bootstrap.ServerBootstrap;
import io.netty.channel.ChannelFuture;
import io.netty.channel.ChannelInitializer;
import io.netty.channel.ChannelOption;
import io.netty.channel.ChannelPipeline;
import io.netty.channel.nio.NioEventLoopGroup;
import io.netty.channel.socket.SocketChannel;
import io.netty.channel.socket.nio.NioServerSocketChannel;

/**
 * @author ajie
 * @description: Netty服务端
 */
public class NettyServer {
    public static void main(String[] args) throws InterruptedException {
        // 1. 创建bossGroup线程组: 处理网络事件--连接事件
        NioEventLoopGroup bossGroup = new NioEventLoopGroup(1);
        // 2. 创建workerGroup线程组: 处理网络事件--读写事件 2*处理器的线程数
        NioEventLoopGroup workGroup = new NioEventLoopGroup();
        // 3. 创建服务端启动助手
        ServerBootstrap serverBootstrap = new ServerBootstrap();
        // 4. 设置bossGroup线程组和workerGroup线程组
        serverBootstrap.group(bossGroup, workGroup)
                .channel(NioServerSocketChannel.class) // 5. 设置服务端通道实现为NIO
                .option(ChannelOption.SO_BACKLOG, 128) // 6. 参数设置
                .childOption(ChannelOption.SO_KEEPALIVE, Boolean.TRUE)
                .childHandler(new ChannelInitializer<SocketChannel>() { // 7. 创建一个通道初始化对象
                    @Override
                    protected void initChannel(SocketChannel socketChannel) throws Exception {
                        // 8. 向pipeline中添加自定义业务处理handler
                        ChannelPipeline pipeline = socketChannel.pipeline();
                        pipeline.addLast(new NettyServerHandler());
                    }
                });
        // 9. 启动服务端并绑定端口,同时将异步改为同步
        ChannelFuture future = serverBootstrap.bind(9999).sync();
        // 10. 关闭通道(并不是真正意义上的关闭,而是监听通道关闭状态)和关闭连接池
        future.channel().closeFuture().sync();
        bossGroup.shutdownGracefully();
        workGroup.shutdownGracefully();
    }
}

自定义服务端handle

package com.ajie.netty;

import io.netty.buffer.ByteBuf;
import io.netty.buffer.Unpooled;
import io.netty.channel.ChannelHandlerContext;
import io.netty.channel.ChannelInboundHandler;

import java.nio.charset.StandardCharsets;

/**
 * @author ajie
 * @description: TODO
 */
public class NettyServerHandler implements ChannelInboundHandler {
    /**
     * 通道读取事件
     *
     * @param ctx
     * @param msg
     * @throws Exception
     */
    @Override
    public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
        ByteBuf byteBuf = (ByteBuf) msg;
        System.out.println("客户端消息:" + byteBuf.toString(StandardCharsets.UTF_8));
    }

    /**
     * 通道读取完毕事件
     *
     * @param ctx
     * @throws Exception
     */
    @Override
    public void channelReadComplete(ChannelHandlerContext ctx) throws Exception {
        ctx.writeAndFlush(Unpooled.copiedBuffer("你好,我是netty服务端".getBytes(StandardCharsets.UTF_8)));
    }

    /**
     * 异常发生事件
     *
     * @param ctx
     * @param cause
     * @throws Exception
     */
    @Override
    public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {
        cause.printStackTrace();
        ctx.close();
    }

    @Override
    public void channelRegistered(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void channelUnregistered(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void channelActive(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void channelInactive(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void userEventTriggered(ChannelHandlerContext ctx, Object evt) throws Exception {

    }

    @Override
    public void channelWritabilityChanged(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void handlerAdded(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void handlerRemoved(ChannelHandlerContext ctx) throws Exception {

    }
}
Netty客户端编写

客户端实现步骤:

  1. 创建线程组
  2. 创建客户端启动助手
  3. 设置线程组
  4. 设置客户端通道实现为NIO
  5. 创建一个通道初始化对象
  6. 向pipeline中添加自定义业务处理handler
  7. 启动客户端,等待连接服务端,同时将异步改为同步
  8. 关闭通道和关闭连接池

代码实现:

package com.ajie.netty;

import io.netty.bootstrap.Bootstrap;
import io.netty.channel.ChannelFuture;
import io.netty.channel.ChannelInitializer;
import io.netty.channel.ChannelPipeline;
import io.netty.channel.nio.NioEventLoopGroup;
import io.netty.channel.socket.SocketChannel;
import io.netty.channel.socket.nio.NioSocketChannel;

import java.net.InetSocketAddress;

/**
 * @author ajie
 * @description: TODO
 */
public class NettyClient {
    public static void main(String[] args) throws InterruptedException {
        // 1. 创建线程组
        NioEventLoopGroup group = new NioEventLoopGroup();
        // 2. 创建客户端启动助手
        Bootstrap bootstrap = new Bootstrap();
        // 3. 设置线程组
        bootstrap.group(group)
                .channel(NioSocketChannel.class) // 4. 设置客户端通道实现为NIO
                .handler(new ChannelInitializer<SocketChannel>() { // 5. 创建一个通道初始化对象
                    @Override
                    protected void initChannel(SocketChannel ch) throws Exception {
                        // 6. 向pipeline中添加自定义业务处理handler
                        ChannelPipeline pipeline = ch.pipeline();
                        pipeline.addLast(new NettyClientHandler());
                    }
                });
        // 7. 启动客户端,等待连接服务端,同时将异步改为同步
        ChannelFuture future = bootstrap.connect(new InetSocketAddress("127.0.0.1", 9999)).sync();
        System.out.println("客户端启动成功");
        // 8. 关闭通道和关闭连接池
        future.channel().closeFuture().sync();
        group.shutdownGracefully();
    }
}

自定义客户端handle

package com.ajie.netty;

import io.netty.buffer.ByteBuf;
import io.netty.buffer.Unpooled;
import io.netty.channel.ChannelHandlerContext;
import io.netty.channel.ChannelInboundHandler;

import java.nio.charset.StandardCharsets;

/**
 * @author ajie
 * @description: TODO
 */
public class NettyClientHandler implements ChannelInboundHandler {
    /**
     * 通道就绪事件
     *
     * @param ctx
     * @throws Exception
     */
    @Override
    public void channelActive(ChannelHandlerContext ctx) throws Exception {
        ctx.writeAndFlush(Unpooled.copiedBuffer("你好,我是netty客户端", StandardCharsets.UTF_8));
    }

    /**
     * 通道读取事件
     *
     * @param ctx
     * @param msg
     * @throws Exception
     */
    @Override
    public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
        ByteBuf byteBuf = (ByteBuf) msg;
        System.out.println("服务端消息:" + byteBuf.toString(StandardCharsets.UTF_8));
    }

    @Override
    public void channelRegistered(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void channelUnregistered(ChannelHandlerContext ctx) throws Exception {

    }


    @Override
    public void channelInactive(ChannelHandlerContext ctx) throws Exception {

    }


    @Override
    public void channelReadComplete(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void userEventTriggered(ChannelHandlerContext ctx, Object evt) throws Exception {

    }

    @Override
    public void channelWritabilityChanged(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void handlerAdded(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void handlerRemoved(ChannelHandlerContext ctx) throws Exception {

    }

    @Override
    public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {

    }
}

Netty高级应用

Netty异步模型

基本介绍

​ 异步的概念和同步相对。当一个异步过程调用发出后,调用者不能立刻得到结果。实际处理这个调用的组件在完成后,通过状态、通知和回调来通知调用者。

image-20240725141439311

​ Netty 中的 I/O 操作是异步的,包括 Bind、Write、Connect 等操作会简单的返回一个ChannelFuture。调用者并不能立刻获得结果,而是通过 Future-Listener 机制,用户可以方便的主动获取或者通过通知机制获得IO 操作结果. Netty 的异步模型是建立在 future 和 callback 的之上的。callback 就是回调。重点说 Future,它的核心思想是:假设一个方法 fun,计算过程可能非常耗时,等待 fun 返回显然不合适。那么可以在调用 fun 的时候,立马返回一个 Future,后续可以通过 Future 去监控方法 fun 的处理过程(即 : Future-Listener 机制)

Future和Future-Listener

  1. Future

    ​ 表示异步的执行结果, 可以通过它提供的方法来检测执行是否完成,ChannelFuture 是他的一个子接口. ChannelFuture 是一个接口 ,可以添加监听器,当监听的事件发生时,就会通知到监听器

    ​ 当 Future 对象刚刚创建时,处于非完成状态,调用者可以通过返回的 ChannelFuture 来获取操作执行的状态, 注册监听函数来执行完成后的操作。

    常用方法有:

    • sync 方法, 阻塞等待程序结果反回
    • isDone 方法来判断当前操作是否完成
    • isSuccess 方法来判断已完成的当前操作是否成功
    • getCause 方法来获取已完成的当前操作失败的原因
    • isCancelled 方法来判断已完成的当前操作是否被取消
    • addListener 方法来注册监听器,当操作已完成(isDone 方法返回完成),将会通知指定的监听器;如果Future 对象已完成,则通知指定的监听器
  2. Future-Listener 机制

    给Future添加监听器,监听操作结果

    代码实现:

    服务端

    ChannelFuture future = serverBootstrap.bind(9999);
    future.addListener(new ChannelFutureListener() {
        @Override
        public void operationComplete(ChannelFuture future) throws Exception {
            if(future.isSuccess()){
                System.out.println("端口绑定成功!");
            }else {
                System.out.println("端口绑定失败!");
            }
        }
    });
    System.out.println("服务端启动成功");
    

    客户端

    /**
         * 通道就绪事件
         *
         * @param ctx
         * @throws Exception
         */
    @Override
    public void channelActive(ChannelHandlerContext ctx) throws Exception {
        ChannelFuture future = ctx.writeAndFlush(Unpooled.copiedBuffer("你好,我是netty客户端",
                                                                       StandardCharsets.UTF_8));
        future.addListener(new ChannelFutureListener() {
            @Override
            public void operationComplete(ChannelFuture future) throws Exception {
                if(future.isSuccess()){
                    System.out.println("消息发送成功!");
                }else {
                    System.out.println("消息发送失败!");
                }
            }
        });
    }
    

Netty编解码器

Java的编解码
  1. 编码(Encode)称为序列化, 它将对象序列化为字节数组,用于网络传输、数据持久化或者其它用途。
  2. 解码(Decode)称为反序列化,它把从网络、磁盘等读取的字节数组还原成原始对象(通常是原始对象的拷贝),以方便后续的业务逻辑操作。

image-20240725143019491

​ java序列化对象只需要实现java.io.Serializable接口并生成序列化ID,这个类就能够通过java.io.ObjectInput和java.io.ObjectOutput序列化和反序列化。

Java序列化目的:1.网络传输。2.对象持久化。

Java序列化缺点:1.无法跨语言。 2.序列化后码流太大。3.序列化性能太低。

​ Java序列化仅仅是Java编解码技术的一种,由于它的种种缺陷,衍生出了多种编解码技术和框架,这些编解码框架实现消息的高效序列化。

Netty编解码器
  1. 概念

    ​ 在网络应用中需要实现某种编解码器,将原始字节数据与自定义的消息对象进行互相转换。网络中都是以字节码的数据形式来传输数据的,服务器编码数据后发送到客户端,客户端需要对数据进行解码。

    ​ 对于Netty而言,编解码器由两部分组成:编码器、解码器。

    • 解码器:负责将消息从字节或其他序列形式转成指定的消息对象。

    • 编码器:将消息对象转成字节或其他序列形式在网络上传输。

      ​ Netty 的编(解)码器实现了 ChannelHandlerAdapter,也是一种特殊的 ChannelHandler,所以依赖于 ChannelPipeline,可以将多个编(解)码器链接在一起,以实现复杂的转换逻辑。

      Netty里面的编解码: 解码器:负责处理“入站InboundHandler”数据。编码器:负责“出站OutboundHandler”数据

  2. 解码器(Decoder)

    ​ 解码器负责 解码“入站”数据从一种格式到另一种格式,解码器处理入站数据是抽象ChannelInboundHandler的实现。需要将解码器放在ChannelPipeline中。对于解码器,Netty中主要提供了抽象基类ByteToMessageDecoder和MessageToMessageDecoder

    image-20240725143508941

    抽象解码器

    • ByteToMessageDecoder: 用于将字节转为消息,需要检查缓冲区是否有足够的字节
    • ReplayingDecoder: 继承ByteToMessageDecoder,不需要检查缓冲区是否有足够的字节,但是 ReplayingDecoder速度略慢于ByteToMessageDecoder,同时不是所有的ByteBuf都支持。项目复杂性高则使用ReplayingDecoder,否则使用ByteToMessageDecoder
    • MessageToMessageDecoder: 用于从一种消息解码为另外一种消息(例如POJO到POJO)

    核心方法:

    decode(ChannelHandlerContext ctx, ByteBuf msg, List<Object> out)
    

    代码实现:

    解码器:

    package com.ajie.codec;
    
    import io.netty.buffer.ByteBuf;
    import io.netty.channel.ChannelHandlerContext;
    import io.netty.handler.codec.MessageToMessageDecoder;
    import io.netty.util.CharsetUtil;
    
    import java.util.List;
    
    /**
     * @author ajie
     * @description: 消息解码-可以将字符串消息进行解码. 只有消息入站时才会进行解码
     */
    public class MessageDecode extends MessageToMessageDecoder<ByteBuf> {
        @Override
        protected void decode(ChannelHandlerContext ctx, ByteBuf msg, List<Object> out) throws Exception {
            System.out.println("正在进行消息解码");
            out.add(msg.toString(CharsetUtil.UTF_8));
        }
    }
    
  3. 编码器(Encoder)

    ​ 与ByteToMessageDecoder和MessageToMessageDecoder相对应,Netty提供了对应的编码器实现MessageToByteEncoder和MessageToMessageEncoder,二者都实现ChannelOutboundHandler接口。

    image-20240725144509280

    抽象编码器

    • MessageToByteEncoder: 将消息转化成字节
    • MessageToMessageEncoder: 用于从一种消息编码为另外一种消息(例如POJO到POJO)

    核心方法:

    encode(ChannelHandlerContext ctx, String msg, List<Object> out)
    

    代码实现:

    编码器:

    package com.ajie.codec;
    
    import io.netty.buffer.Unpooled;
    import io.netty.channel.ChannelHandlerContext;
    import io.netty.handler.codec.MessageToMessageEncoder;
    import io.netty.util.CharsetUtil;
    
    import java.util.List;
    
    /**
     * @author ajie
     * @description: 编码器
     */
    public class MessageEncode extends MessageToMessageEncoder<String> {
        @Override
        protected void encode(ChannelHandlerContext ctx, String msg, List<Object> out) throws Exception {
            System.out.println("消息正在编码");
            out.add(Unpooled.copiedBuffer(msg, CharsetUtil.UTF_8));
        }
    }
    
  4. 编码解码器Codec

    ​ 编码解码器: 同时具有编码与解码功能,特点同时实现了ChannelInboundHandler和ChannelOutboundHandler接口,因此在数据输入和输出时都能进行处理。

    image-20240725144922774

    Netty提供提供了一个ChannelDuplexHandler适配器类,编码解码器的抽象基类ByteToMessageCodec ,MessageToMessageCodec都继承与此类.

    代码实现:

    package com.ajie.codec;
    
    import io.netty.buffer.ByteBuf;
    import io.netty.buffer.Unpooled;
    import io.netty.channel.ChannelHandlerContext;
    import io.netty.handler.codec.MessageToMessageCodec;
    import io.netty.util.CharsetUtil;
    
    import java.util.List;
    
    /**
     * @author ajie
     * @description: TODO
     */
    public class MessageCodec extends MessageToMessageCodec<ByteBuf, String> {
        @Override
        protected void encode(ChannelHandlerContext ctx, String msg, List<Object> out) throws Exception {
            System.out.println("正在进行消息编码");
            out.add(Unpooled.copiedBuffer(msg, CharsetUtil.UTF_8));
        }
    
        @Override
        protected void decode(ChannelHandlerContext ctx, ByteBuf msg, List<Object> out) throws Exception {
            System.out.println("正在进行消息解码");
            out.add(msg.toString(CharsetUtil.UTF_8));
        }
    }
    

Netty案例-群聊天室

案例要求:

  1. 编写一个 Netty 群聊系统,实现服务器端和客户端之间的数据简单通讯
  2. 实现多人群聊
  3. 服务器端:可以监测用户上线,离线,并实现消息转发功能
  4. 客户端:可以发送消息给其它所有用户,同时可以接受其它用户发送的消息
编解码器编写
package com.ajie.chat;

import io.netty.buffer.ByteBuf;
import io.netty.buffer.Unpooled;
import io.netty.channel.ChannelHandlerContext;
import io.netty.handler.codec.MessageToMessageCodec;
import io.netty.util.CharsetUtil;

import java.util.List;

/**
 * @author ajie
 * @description: 编解码器
 */
public class MessageCodec extends MessageToMessageCodec<ByteBuf, String> {
    @Override
    protected void encode(ChannelHandlerContext ctx, String msg, List<Object> out) throws Exception {
        System.out.println("正在进行编码.....");
        out.add(Unpooled.copiedBuffer(msg, CharsetUtil.UTF_8));
    }

    @Override
    protected void decode(ChannelHandlerContext ctx, ByteBuf msg, List<Object> out) throws Exception {
        System.out.println("正在进行解码.....");
        out.add(msg.toString(CharsetUtil.UTF_8));
    }
}
聊天室服务端编写
  • 启动类

    package com.ajie.chat;
    
    import com.ajie.netty.NettyServerHandler;
    import io.netty.bootstrap.ServerBootstrap;
    import io.netty.channel.*;
    import io.netty.channel.nio.NioEventLoopGroup;
    import io.netty.channel.socket.SocketChannel;
    import io.netty.channel.socket.nio.NioServerSocketChannel;
    
    /**
     * @author ajie
     * @description: 群聊服务端
     */
    public class NettyChatServer {
        private Integer port;
    
        public NettyChatServer(Integer port) {
            this.port = port;
        }
    
        public void run() {
            NioEventLoopGroup bossGroup = null;
            NioEventLoopGroup workGroup = null;
            try {
                // 1. 创建bossGroup线程组: 处理网络事件--连接事件
                bossGroup = new NioEventLoopGroup(1);
                // 2. 创建workerGroup线程组: 处理网络事件--读写事件 2*处理器的线程数
                workGroup = new NioEventLoopGroup();
                // 3. 创建服务端启动助手
                ServerBootstrap serverBootstrap = new ServerBootstrap();
                // 4. 设置bossGroup线程组和workerGroup线程组
                serverBootstrap.group(bossGroup, workGroup)
                        .channel(NioServerSocketChannel.class) // 5. 设置服务端通道实现为NIO
                        .option(ChannelOption.SO_BACKLOG, 128) // 6. 参数设置
                        .childOption(ChannelOption.SO_KEEPALIVE, Boolean.TRUE)
                        .childHandler(new ChannelInitializer<SocketChannel>() { // 7. 创建一个通道初始化对象
                            @Override
                            protected void initChannel(SocketChannel socketChannel) throws Exception {
                                ChannelPipeline pipeline = socketChannel.pipeline();
                                // 添加编解码器
                                pipeline.addLast(new MessageCodec());
                                // 8. 向pipeline中添加自定义业务处理handler
                                pipeline.addLast(new NettyChatServerHandler());
                            }
                        });
                // 9. 启动服务端并绑定端口,同时将异步改为同步
                ChannelFuture future = serverBootstrap.bind(port);
                future.addListener(new ChannelFutureListener() {
                    @Override
                    public void operationComplete(ChannelFuture future) throws Exception {
                        if (future.isSuccess()) {
                            System.out.println("端口绑定成功!");
                        } else {
                            System.out.println("端口绑定失败!");
                        }
                    }
                });
                System.out.println("服务端启动成功");
                // 10. 关闭通道(并不是真正意义上的关闭,而是监听通道关闭状态)和关闭连接池
                future.channel().closeFuture().sync();
    
            } catch (InterruptedException e) {
                throw new RuntimeException(e);
            } finally {
                if (bossGroup != null) {
                    bossGroup.shutdownGracefully();
                }
                if (workGroup != null) {
                    workGroup.shutdownGracefully();
                }
            }
        }
    
        public static void main(String[] args) {
            new NettyChatServer(9999).run();
        }
    }
    
  • 自定义业务处理器

    package com.ajie.chat;
    
    import io.netty.channel.Channel;
    import io.netty.channel.ChannelHandlerContext;
    import io.netty.channel.SimpleChannelInboundHandler;
    
    import java.util.ArrayList;
    import java.util.List;
    
    /**
     * @author ajie
     * @description: TODO
     */
    public class NettyChatServerHandler extends SimpleChannelInboundHandler<String> {
        private static List<Channel> channelList = new ArrayList<>();
    
        /**
         * 通道就绪事件
         *
         * @param ctx
         * @throws Exception
         */
        @Override
        public void channelActive(ChannelHandlerContext ctx) throws Exception {
            Channel channel = ctx.channel();
            // 当有新的客户端连接的时候, 将通道放入集合
            channelList.add(channel);
            System.out.println("[server]:" +
                    channel.remoteAddress().toString().substring(1) + "在线.");
        }
    
        @Override
        protected void channelRead0(ChannelHandlerContext ctx, String msg) throws Exception {
            Channel channel = ctx.channel();
            // 接收到客户端发过来的消息,发送给其它客户端
            for (Channel channel1 : channelList) {
                if (channel1 != channel) {
                    channel1.writeAndFlush("[" +
                            channel.remoteAddress().toString().substring(1) + "]说:" + msg);
                }
            }
        }
    
        /**
         * 通道断开事件
         *
         * @param ctx
         * @throws Exception
         */
        @Override
        public void channelInactive(ChannelHandlerContext ctx) throws Exception {
            Channel channel = ctx.channel();
            channelList.remove(channel);
            System.out.println("[server]:" +
                    channel.remoteAddress().toString().substring(1) + "下线.");
            super.channelInactive(ctx);
        }
    
        /**
         * 通道异常事件
         *
         * @param ctx
         * @param cause
         * @throws Exception
         */
        @Override
        public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {
            Channel channel = ctx.channel();
            channelList.remove(channel);
            System.out.println("[server]:" +
                    channel.remoteAddress().toString().substring(1) + "异常.");
        }
    }
    
聊天室客户端编写
  • 启动类

    package com.ajie.chat;
    
    import com.ajie.netty.NettyClientHandler;
    import io.netty.bootstrap.Bootstrap;
    import io.netty.channel.Channel;
    import io.netty.channel.ChannelFuture;
    import io.netty.channel.ChannelInitializer;
    import io.netty.channel.ChannelPipeline;
    import io.netty.channel.nio.NioEventLoopGroup;
    import io.netty.channel.socket.SocketChannel;
    import io.netty.channel.socket.nio.NioSocketChannel;
    
    import java.net.InetSocketAddress;
    import java.util.Scanner;
    
    /**
     * @author ajie
     * @description: 群聊客户端
     */
    public class NettyChatClient {
        private String host;
        private Integer port;
    
        public NettyChatClient(String host, Integer port) {
            this.host = host;
            this.port = port;
        }
    
        public void run() {
            NioEventLoopGroup group = null;
            try {
                // 1. 创建线程组
                group = new NioEventLoopGroup();
                // 2. 创建客户端启动助手
                Bootstrap bootstrap = new Bootstrap();
                // 3. 设置线程组
                bootstrap.group(group)
                        .channel(NioSocketChannel.class) // 4. 设置客户端通道实现为NIO
                        .handler(new ChannelInitializer<SocketChannel>() { // 5. 创建一个通道初始化对象
                            @Override
                            protected void initChannel(SocketChannel ch) throws Exception {
                                ChannelPipeline pipeline = ch.pipeline();
                                // 添加编解码器
                                pipeline.addLast(new MessageCodec());
                                // 6. 向pipeline中添加自定义业务处理handler
                                pipeline.addLast(new NettyChatClientHandler());
                            }
                        });
                // 7. 启动客户端,等待连接服务端,同时将异步改为同步
                ChannelFuture future = bootstrap.connect(
                        new InetSocketAddress(host, port)).sync();
    
                Channel channel = future.channel();
                System.out.println("-----------" + channel.remoteAddress().toString().substring(1) + "-----------");
                Scanner sc = new Scanner(System.in);
                while (sc.hasNext()) {
                    String msg = sc.nextLine();
                    // 向服务端发送消息
                    channel.writeAndFlush(msg);
                }
                // 8. 关闭通道和关闭连接池
                channel.closeFuture();
            } catch (InterruptedException e) {
                throw new RuntimeException(e);
            } finally {
                if (group != null) {
                    group.shutdownGracefully();
                }
            }
        }
    
        public static void main(String[] args) {
            new NettyChatClient("127.0.0.1", 9999).run();
        }
    }
    
  • 自定义业务处理器

    package com.ajie.chat;
    
    import io.netty.channel.ChannelHandlerContext;
    import io.netty.channel.SimpleChannelInboundHandler;
    
    /**
     * @author ajie
     * @description: TODO
     */
    public class NettyChatClientHandler extends SimpleChannelInboundHandler<String> {
        @Override
        protected void channelRead0(ChannelHandlerContext ctx, String msg) throws Exception {
            System.out.println(msg);
        }
    }
    

Netty的Http服务器

介绍

​ Netty的HTTP协议栈无论在性能还是可靠性上,都表现优异,非常适合在非Web容器的场景下应用,相比于传统的Tomcat、Jetty等Web容器,它更加轻量和小巧,灵活性和定制性也更好。

image-20240725171937465

功能需求

  1. Netty 服务器在 8080 端口监听
  2. 浏览器发出请求 "http://localhost:8080/ "
  3. 服务器可以回复消息给客户端 "Hello! 我是Netty服务器 " ,并对特定请求资源进行过滤.

服务端代码实现

package com.ajie.http;

import com.ajie.chat.MessageCodec;
import com.ajie.chat.NettyChatServer;
import com.ajie.chat.NettyChatServerHandler;
import io.netty.bootstrap.ServerBootstrap;
import io.netty.channel.*;
import io.netty.channel.nio.NioEventLoopGroup;
import io.netty.channel.socket.SocketChannel;
import io.netty.channel.socket.nio.NioServerSocketChannel;
import io.netty.handler.codec.http.HttpServerCodec;

/**
 * @author ajie
 * @description: TODO
 */
public class NettyHttpServer {
    private Integer port;

    public NettyHttpServer(Integer port) {
        this.port = port;
    }

    public void run() {
        NioEventLoopGroup bossGroup = null;
        NioEventLoopGroup workGroup = null;
        try {
            // 1. 创建bossGroup线程组: 处理网络事件--连接事件
            bossGroup = new NioEventLoopGroup(1);
            // 2. 创建workerGroup线程组: 处理网络事件--读写事件 2*处理器的线程数
            workGroup = new NioEventLoopGroup();
            // 3. 创建服务端启动助手
            ServerBootstrap serverBootstrap = new ServerBootstrap();
            // 4. 设置bossGroup线程组和workerGroup线程组
            serverBootstrap.group(bossGroup, workGroup)
                    .channel(NioServerSocketChannel.class) // 5. 设置服务端通道实现为NIO
                    .option(ChannelOption.SO_BACKLOG, 128) // 6. 参数设置
                    .childOption(ChannelOption.SO_KEEPALIVE, Boolean.TRUE)
                    .childHandler(new ChannelInitializer<SocketChannel>() { // 7. 创建一个通道初始化对象
                        @Override
                        protected void initChannel(SocketChannel socketChannel) throws Exception {
                            ChannelPipeline pipeline = socketChannel.pipeline();
                            // 添加编解码器
                            pipeline.addLast(new HttpServerCodec());
                            // 8. 向pipeline中添加自定义业务处理handler
                            pipeline.addLast(new NettyHttpServerHandler());
                        }
                    });
            // 9. 启动服务端并绑定端口,同时将异步改为同步
            ChannelFuture future = serverBootstrap.bind(port);
            future.addListener(new ChannelFutureListener() {
                @Override
                public void operationComplete(ChannelFuture future) throws Exception {
                    if (future.isSuccess()) {
                        System.out.println("端口绑定成功!");
                    } else {
                        System.out.println("端口绑定失败!");
                    }
                }
            });
            System.out.println("服务端启动成功");
            // 10. 关闭通道(并不是真正意义上的关闭,而是监听通道关闭状态)和关闭连接池
            future.channel().closeFuture().sync();

        } catch (InterruptedException e) {
            throw new RuntimeException(e);
        } finally {
            if (bossGroup != null) {
                bossGroup.shutdownGracefully();
            }
            if (workGroup != null) {
                workGroup.shutdownGracefully();
            }
        }
    }

    public static void main(String[] args) {
        new NettyHttpServer(8080).run();
    }
}

自定义业务处理器

package com.ajie.http;

import io.netty.buffer.ByteBuf;
import io.netty.buffer.Unpooled;
import io.netty.channel.ChannelHandlerContext;
import io.netty.channel.SimpleChannelInboundHandler;
import io.netty.handler.codec.http.*;

import java.nio.charset.StandardCharsets;

/**
 * @author ajie
 * @description: TODO
 */
public class NettyHttpServerHandler extends SimpleChannelInboundHandler<HttpObject> {
    @Override
    protected void channelRead0(ChannelHandlerContext ctx, HttpObject msg) throws Exception {
        if (msg instanceof HttpRequest) {
            DefaultHttpRequest httpRequest = (DefaultHttpRequest) msg;
            System.out.println("浏览器响应路径:" + httpRequest.uri());
            if ("/favicon.ico".equals(httpRequest.uri())) {
                return;
            }
            // 给浏览器进行响应
            ByteBuf byteBuf = Unpooled.copiedBuffer("Hello! 我是netty服务器".getBytes(StandardCharsets.UTF_8));
            DefaultFullHttpResponse response = new DefaultFullHttpResponse(
                    HttpVersion.HTTP_1_1, HttpResponseStatus.OK, byteBuf
            );
            // 设置响应头
            response.headers().set(HttpHeaderNames.CONTENT_TYPE, "text/html;charset=utf-8");
            response.headers().set(HttpHeaderNames.CONTENT_LENGTH, byteBuf.readableBytes());
            ctx.writeAndFlush(response);
        }
    }
}

Netty的WebSocket开发

WebSocket简介

​ WebSocket是一种在单个TCP连接上进行全双工通信的协议。WebSocket使得客户端和服务器之间的数据交换变得更加简单,允许服务端主动向客户端推送数据。在WebSocket API中,客户端和服务器只需要完成一次握手,两者之间就直接可以创建持久性的连接,并进行双向数据传输。

应用场景十分广泛:

  1. 社交订阅
  2. 协同编辑/编程
  3. 股票基金报价
  4. 体育实况更新
  5. 多媒体聊天
  6. 在线教育
WebSocket和HTTP的区别

​ http协议是用在应用层的协议,他是基于tcp协议的,http协议建立连接也必须要有三次握手才能发送信息。 http连接分为短连接,长连接,短连接是每次请求都要三次握手才能发送自己的信息。即每一个request对应一个response。长连接是在一定的期限内保持连接。保持TCP连接不断开。客户端与服务器通信,必须要有客户端先发起, 然后服务器返回结果。客户端是主动的,服务器是被动的。 客户端要想实时获取服务端消息就得不断发送长连接到服务端.

​ WebSocket实现了多路复用,他是全双工通信。在webSocket协议下服务端和客户端可以同时发送信息。 建立了WebSocket连接之后, 服务端可以主动发送信息到客户端。而且信息当中不必在带有head的部分信息了与http的长链接通信来说,这种方式,不仅能降低服务器的压力。而且信息当中也减少了部分多余的信息。

服务端开发

  1. 创建项目netty-springboot,导入依赖

    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.7.10</version>
        <relativePath/>
    </parent>
    <dependencies>
        <!--整合web模块-->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <!--整合模板引擎 -->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-thymeleaf</artifactId>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
        </dependency>
        <!--引入netty依赖 -->
        <dependency>
            <groupId>io.netty</groupId>
            <artifactId>netty-all</artifactId>
        </dependency>
    </dependencies>
    
  2. application.yml配置

    server:
      port: 8080
    
    netty:
      port: 8081
      path: /chat
    
  3. Netty属性类

    package com.ajie.netty.config;
    
    import lombok.Data;
    import org.springframework.boot.context.properties.ConfigurationProperties;
    import org.springframework.stereotype.Component;
    
    /**
     * @author ajie
     * @description: TODO
     */
    @Component
    @ConfigurationProperties(prefix = "netty")
    @Data
    public class NettyProperties {
        // netty监听的端口
        private Integer port;
        // websocket访问路径
        private String path;
    }
    
  4. NettyWebSocketServer开发

    package com.ajie.netty.netty;
    
    import com.ajie.netty.config.NettyProperties;
    import io.netty.bootstrap.ServerBootstrap;
    import io.netty.channel.ChannelFuture;
    import io.netty.channel.nio.NioEventLoopGroup;
    import io.netty.channel.socket.nio.NioServerSocketChannel;
    import io.netty.handler.logging.LogLevel;
    import io.netty.handler.logging.LoggingHandler;
    import org.springframework.beans.factory.annotation.Autowired;
    import org.springframework.stereotype.Component;
    
    import javax.annotation.PreDestroy;
    
    /**
     * @author ajie
     * @description: TODO
     */
    @Component
    public class NettyWebsocketServer implements Runnable {
        @Autowired
        private NettyProperties nettyProperties;
        @Autowired
        private WebSocketChannelInit webSocketChannelInit;
        private NioEventLoopGroup bossGroup = new NioEventLoopGroup(1);
        private NioEventLoopGroup workGroup = new NioEventLoopGroup();
    
        /**
         * 资源关闭--在容器销毁时关闭
         */
        @PreDestroy
        public void close() {
            bossGroup.shutdownGracefully();
            workGroup.shutdownGracefully();
        }
    
        @Override
        public void run() {
            try {
                // 1.创建服务端启动助手
                ServerBootstrap serverBootstrap = new ServerBootstrap();
                // 2.设置线程组
                serverBootstrap.group(bossGroup, workGroup);
                // 3.设置参数
                serverBootstrap.channel(NioServerSocketChannel.class)
                        .handler(new LoggingHandler(LogLevel.DEBUG))
                        .childHandler(webSocketChannelInit);
                // 4.启动
                ChannelFuture future = serverBootstrap.bind(nettyProperties.getPort()).sync();
                System.out.println("--Netty服务端启动成功---");
                future.channel().closeFuture().sync();
            } catch (InterruptedException e) {
                e.printStackTrace();
            } finally {
                bossGroup.shutdownGracefully();
                workGroup.shutdownGracefully();
            }
        }
    }
    
  5. 通道初始化对象

    package com.ajie.netty.netty;
    
    import com.ajie.netty.config.NettyProperties;
    import io.netty.channel.ChannelInitializer;
    import io.netty.channel.ChannelPipeline;
    import io.netty.channel.socket.SocketChannel;
    import io.netty.handler.codec.http.HttpObjectAggregator;
    import io.netty.handler.codec.http.HttpServerCodec;
    import io.netty.handler.codec.http.websocketx.WebSocketServerProtocolHandler;
    import io.netty.handler.stream.ChunkedWriteHandler;
    import org.springframework.beans.factory.annotation.Autowired;
    import org.springframework.stereotype.Component;
    
    /**
     * @author ajie
     * @description: TODO
     */
    @Component
    public class WebSocketChannelInit extends ChannelInitializer<SocketChannel> {
        @Autowired
        private NettyProperties nettyProperties;
        @Autowired
        private WebSocketHandler webSocketHandler;
    
        @Override
        protected void initChannel(SocketChannel socketChannel) throws Exception {
            ChannelPipeline pipeline = socketChannel.pipeline();
            // 对http协议的支持.
            pipeline.addLast(new HttpServerCodec());
            // 对大数据流的支持
            pipeline.addLast(new ChunkedWriteHandler());
            // post请求分三部分. request line / request header / message body
            // HttpObjectAggregator将多个信息转化成单一的request或者response对象
            pipeline.addLast(new HttpObjectAggregator(8000));
            // 将http协议升级为ws协议. websocket的支持
            pipeline.addLast(new WebSocketServerProtocolHandler(
                    nettyProperties.getPath()));
            // 自定义处理handler
            pipeline.addLast(webSocketHandler);
        }
    }
    
  6. 处理对象

    package com.ajie.netty.netty;
    
    import io.netty.channel.Channel;
    import io.netty.channel.ChannelHandler;
    import io.netty.channel.ChannelHandlerContext;
    import io.netty.channel.SimpleChannelInboundHandler;
    import io.netty.handler.codec.http.websocketx.TextWebSocketFrame;
    import org.springframework.stereotype.Component;
    
    import java.util.ArrayList;
    import java.util.List;
    
    /**
     * @author ajie
     * @description: 自定义处理类
     * TextWebSocketFrame: websocket数据是帧的形式处理
     */
    @Component
    @ChannelHandler.Sharable // 设置通道共享
    public class WebSocketHandler extends SimpleChannelInboundHandler<TextWebSocketFrame> {
        private static List<Channel> channelList = new ArrayList<>();
    
        /**
         * 通道就绪事件
         *
         * @param ctx
         * @throws Exception
         */
        @Override
        public void channelActive(ChannelHandlerContext ctx) throws Exception {
            // 当有新的客户端连接的时候, 将通道放入集合
            Channel channel = ctx.channel();
            channelList.add(channel);
            System.out.println("有新的连接.");
        }
    
        /**
         * 通道未就绪--channel下线
         *
         * @param ctx
         * @throws Exception
         */
        @Override
        public void channelInactive(ChannelHandlerContext ctx) throws Exception {
            Channel channel = ctx.channel();
            // 当有客户端断开连接的时候,就移除对应的通道
            channelList.remove(channel);
        }
    
        /**
         * 读就绪事件
         *
         * @param channelHandlerContext
         * @param textWebSocketFrame
         * @throws Exception
         */
        @Override
        protected void channelRead0(ChannelHandlerContext channelHandlerContext, TextWebSocketFrame textWebSocketFrame) throws Exception {
            String msg = textWebSocketFrame.text();
            System.out.println("msg:" + msg);
            // 当前发送消息的通道, 当前发送的客户端连接
            Channel channel = channelHandlerContext.channel();
            for (Channel channel1 : channelList) {
                // 排除自身通道
                if (channel1 != channel) {
                    channel1.writeAndFlush(new TextWebSocketFrame(msg));
                }
            }
        }
    
        /**
         * 异常处理事件
         *
         * @param ctx
         * @param cause
         * @throws Exception
         */
        @Override
        public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {
            Channel channel = ctx.channel();
            channelList.remove(channel);
        }
    }
    
  7. 启动类

    package com.ajie.netty;
    
    import com.ajie.netty.netty.NettyWebsocketServer;
    import org.springframework.beans.factory.annotation.Autowired;
    import org.springframework.boot.CommandLineRunner;
    import org.springframework.boot.SpringApplication;
    import org.springframework.boot.autoconfigure.SpringBootApplication;
    
    /**
     * @author ajie
     * @description: TODO
     */
    @SpringBootApplication
    public class NettyApplication implements CommandLineRunner {
        @Autowired
        private NettyWebsocketServer nettyWebsocketServer;
    
        public static void main(String[] args) {
            SpringApplication.run(NettyApplication.class, args);
        }
    
        @Override
        public void run(String... args) throws Exception {
            new Thread(nettyWebsocketServer).start();
        }
    }
    
  8. 启动项目,使用apiPost或者postman进行测试

Netty中的粘包和拆包

粘包和拆包简介

​ 粘包和拆包是TCP网络编程中不可避免的,无论是服务端还是客户端,当我们读取或者发送消息的时候,都需要考虑TCP底层的粘包/拆包机制。

​ TCP是个“流”协议,所谓流,就是没有界限的一串数据。TCP底层并不了解上层业务数据的具体含义,它会根据TCP缓冲区的实际情况进行包的划分,所以在业务上认为,一个完整的包可能会被TCP拆分成多个包进行发送,也有可能把多个小的包封装成一个大的数据包发送,这就是所谓的TCP粘包和拆包问题。

​ 如图所示,假设客户端分别发送了两个数据包D1和D2给服务端,由于服务端一次读取到的字节数是不确定的,故可能存在以下4种情况。

  1. 服务端分两次读取到了两个独立的数据包,分别是D1和D2,没有粘包和拆包;

    image-20240726110404689

  2. 服务端一次接收到了两个数据包,D1和D2粘合在一起,被称为TCP粘包

    image-20240726110439925

  3. 如果D2的数据包比较大, 服务端分两次读取到了两个数据包,第一次读取到了完整的D1包和D2包的部分内容,第二次读取到了D2包的剩余内容,这被称为TCP拆包

    image-20240726110508565

  4. 如果D1, D2的数据包都很大, 服务端分多次才能将D1和D2包接收完全,期间发生多次拆包

image-20240726110526319

TCP粘包和拆包产生的原因:

​ 数据从发送方到接收方需要经过操作系统的缓冲区,而造成粘包和拆包的主要原因就在这个缓冲区上。粘包可以理解为缓冲区数据堆积,导致多个请求数据粘在一起,而拆包可以理解为发送的数据大于缓冲区,进行拆分处理。

粘包和拆包代码演示
  1. 粘包

    客户端

    /**
    * 通道就绪事件
    *
    * @param ctx
    * @throws Exception
    */
    @Override
    public void channelActive(ChannelHandlerContext ctx) throws Exception {
        for (int i = 0; i < 10; i++) {
            ctx.writeAndFlush(Unpooled.copiedBuffer("你好呀.我是Netty客户端" + i,
                                                    CharsetUtil.UTF_8));
        }
    }
    

    服务端

    public int count = 0;
    /**
    * 通道读取事件
    *
    * @param ctx
    * @param msg
    * @throws Exception
    */
    @Override
    public void channelRead(ChannelHandlerContext ctx, Object msg) throws
        Exception {
        ByteBuf byteBuf = (ByteBuf) msg;
        System.out.println("客户端发送过来的消息:" +
                           byteBuf.toString(CharsetUtil.UTF_8));
        System.out.println("读取次数:"+(++count));
    }
    

    运行结果:

    image-20240726110741006

    服务端一次读取了客户端发送过来的消息,应该读取10次.因此发生粘包.

  2. 拆包

    客户端

    public void channelActive(ChannelHandlerContext ctx) throws Exception {
        //一次发送102400字节数据
        byte[] bytes = new byte[102400];
        Arrays.fill(bytes, (byte) 10);
        for (int i = 0; i < 10; i++) {
            ctx.writeAndFlush(Unpooled.copiedBuffer(bytes));
        }
    }
    

    服务端

    public int count = 0;
    /**
    * 通道读取事件
    *
    * @param ctx
    * @param msg
    * @throws Exception
    */
    @Override
    public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
        ByteBuf byteBuf = (ByteBuf) msg;
        System.out.println("长度是:" + byteBuf.readableBytes());
        System.out.println("读取次数 = " + (++count));
    }
    

    运行结果:

    image-20240726110930632

    当客户端发送的数据包比较大的时候,读取了18次,应该读取10次,则发送拆包事件.

粘包和拆包的解决方法
  1. 业内解决方案

    ​ 由于底层的TCP无法理解上层的业务数据,所以在底层是无法保证数据包不被拆分和重组的,这个问题只能通过上层的应用协议栈设计来解决,根据业界的主流协议的解决方案,可以归纳如下。

    • 消息长度固定,累计读取到长度和为定长LEN的报文后,就认为读取到了一个完整的信息
    • 将换行符作为消息结束符
    • 将特殊的分隔符作为消息的结束标志,回车换行符就是一种特殊的结束分隔符
    • 通过在消息头中定义长度字段来标识消息的总长度
  2. Netty中的粘包和拆包解决方案

    Netty提供了4种解码器来解决,分别如下:

    • 固定长度的拆包器 FixedLengthFrameDecoder,每个应用层数据包的都拆分成都是固定长度的大小
    • 行拆包器 LineBasedFrameDecoder,每个应用层数据包,都以换行符作为分隔符,进行分割拆分
    • 分隔符拆包器 DelimiterBasedFrameDecoder,每个应用层数据包,都通过自定义的分隔符,进行分割拆分
    • 基于数据包长度的拆包器 LengthFieldBasedFrameDecoder,将应用层数据包的长度,作为接收端应用层数据包的拆分依据。按照应用层数据包的大小,拆包。这个拆包器,有一个要求,就是应用层协议中包含数据包的长度
  3. 代码实现

    • LineBasedFrameDecoder解码器

      ch.pipeline().addLast(new LineBasedFrameDecoder(2048));
      
      ctx.writeAndFlush(Unpooled.copiedBuffer("你好呀,我是Netty客户端"+i+"\n",CharsetUtil.UTF_8));
      
    • DelimiterBasedFrameDecoder解码器

      ByteBuf byteBuf = Unpooled.copiedBuffer("$".getBytes(StandardCharsets.UTF_8));
      ch.pipeline().addLast(new DelimiterBasedFrameDecoder(2048, byteBuf));
      
      ctx.writeAndFlush(Unpooled.copiedBuffer("你好呀,我是Netty客户端"+i+"$",CharsetUtil.UTF_8));
      

.copiedBuffer(bytes));
}
}


服务端

```java
public int count = 0;
/**
* 通道读取事件
*
* @param ctx
* @param msg
* @throws Exception
*/
@Override
public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
    ByteBuf byteBuf = (ByteBuf) msg;
    System.out.println("长度是:" + byteBuf.readableBytes());
    System.out.println("读取次数 = " + (++count));
}

运行结果:

[外链图片转存中…(img-KInhcygQ-1721975317553)]

当客户端发送的数据包比较大的时候,读取了18次,应该读取10次,则发送拆包事件.

粘包和拆包的解决方法
  1. 业内解决方案

    ​ 由于底层的TCP无法理解上层的业务数据,所以在底层是无法保证数据包不被拆分和重组的,这个问题只能通过上层的应用协议栈设计来解决,根据业界的主流协议的解决方案,可以归纳如下。

    • 消息长度固定,累计读取到长度和为定长LEN的报文后,就认为读取到了一个完整的信息
    • 将换行符作为消息结束符
    • 将特殊的分隔符作为消息的结束标志,回车换行符就是一种特殊的结束分隔符
    • 通过在消息头中定义长度字段来标识消息的总长度
  2. Netty中的粘包和拆包解决方案

    Netty提供了4种解码器来解决,分别如下:

    • 固定长度的拆包器 FixedLengthFrameDecoder,每个应用层数据包的都拆分成都是固定长度的大小
    • 行拆包器 LineBasedFrameDecoder,每个应用层数据包,都以换行符作为分隔符,进行分割拆分
    • 分隔符拆包器 DelimiterBasedFrameDecoder,每个应用层数据包,都通过自定义的分隔符,进行分割拆分
    • 基于数据包长度的拆包器 LengthFieldBasedFrameDecoder,将应用层数据包的长度,作为接收端应用层数据包的拆分依据。按照应用层数据包的大小,拆包。这个拆包器,有一个要求,就是应用层协议中包含数据包的长度
  3. 代码实现

    • LineBasedFrameDecoder解码器

      ch.pipeline().addLast(new LineBasedFrameDecoder(2048));
      
      ctx.writeAndFlush(Unpooled.copiedBuffer("你好呀,我是Netty客户端"+i+"\n",CharsetUtil.UTF_8));
      
    • DelimiterBasedFrameDecoder解码器

      ByteBuf byteBuf = Unpooled.copiedBuffer("$".getBytes(StandardCharsets.UTF_8));
      ch.pipeline().addLast(new DelimiterBasedFrameDecoder(2048, byteBuf));
      
      ctx.writeAndFlush(Unpooled.copiedBuffer("你好呀,我是Netty客户端"+i+"$",CharsetUtil.UTF_8));
      
  • 4
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值