Netty基础入门
Netty是一个NIO的编程框架,Netty是非常容易和快速开发出网络应用程序的,它提供了一种全新的形式来方便你编写网络应用:它提供了对一些对复杂问题的抽象,提供了一套非常容易使用的api来把我们的业务逻辑和纯粹处理网络的代码分离开来。因为Betty是基于NIO,因此它的整个API都是异步的。
Netty简化了基于TCP和UDP的编程,但是你仍可以用它的底层的API做一些底层处理,因为Netty提供了一系列高抽象的API。
Netty有一系列丰富的特性,让我们来看一下它的强大之处:
1 有一套统一的API来处理异步和同步编程模式.
2 使用非常灵活
3 简单但却强大的线程机制
4 业务组件分离方便重用
5 极小的缩减不必要的Memory Copy
Netty开始-理解Netty的设计理念NIONetty开始-理解Netty的设计理念NIO
其他
一般来说网络编程都会面临着并发问题,那么我们就来看一下为何异步编程模式会很好的解决这个问题,其实这也就诠释了netty背后的设计思想。
在现在,瓶颈总是在IO处理上,异步的处理方式就是你可以不用一直等待任务(IO)处理完成,而是在任务进行的时候还可以做其它事情。那么如何实现这个呢?让我们来认识一下实现异步的两种处理方式:
CallBack:回调是异步处理经常用到的编程模式,回调函数通常被绑定到一个方法上,并且在方法完成之后才执行,这种处理方式在javascript当中得到了充分的运用。回调给我们带来的难题是当一个问题处理过程中涉及很多回调时,代码是很难读的。
Futures:Futures是一种抽象,它代表一个事情的执行过程中的一些关键点,我们通过Future就可以知道任务的执行情况,比如当任务没完成时我们可以做一些其它事情。它给我们带来的难题是我们需要去判断future的值来确定任务的执行状态。
其实这两者很难界定那个好或坏,其实Netty中这两者都有用到。
异步模式(NIO)和非异步模式(BIO)(N可以理解为non-blocking或new)
Block IO会对每个连接创建一个线程,因此这极大限制了JVM创建线程的数量(当然线程池可缓解这个问题,但是也仅仅是缓解)
如图所示:
NIO会通过专门的Selector来管理请求,然后可由一个线程来处理请求,如图所示:
在NIO中,不得不提到的是关于抽象的数据容器ByteBuffer,ByteBuffer允许相同的数据在不同ByteBuffer之间共享而不需要再拷贝一次来处理。Slicing-ByteBuffer允许创建一个新的ByteBuffer通过暴露一个子边界的形式共享原ByteBuffer的数据,这就大大减少了在数据处理过程中内存的copy(Zero-copy)。ByteBuffer通过一些索引来记录读写的信息,当你向其中写数据时,它会自动跟踪你写到ByteBuffer的位置,类似,他也会自动跟踪你读的位置。而且ByteBuffer还提供了很多方法让你切换读写模式(flip)或者清空(clear)或者压缩(compact)等。
关于Selectors,NIOAPI通过selector来处理网络事件和数据。一个Channel代表一个网络连接。Selector的作用就是来决定这些Channel是否已准备好读或者写操作,一个selector可以处理很多连接请求,这就解决了为一个连接创建一个线程的问题。要想用一个selector需要以下步骤:
1.创建一个或多个selector用来给打开的channels注册。
2.当一个channel注册后,就需要来确定哪种事件需要你监听,通常有四种事件:
OP_ACCEPT
OP_CONNECT
OP_READ
OP_WRITE
3.当channels被注册后,你需要调用Selector.select()方法来阻塞直到上述事件发生。
4.当方法没有阻塞时,你会获得所有SelectionKey实例,这些实例包含了已注册channel的引用和其状态,这样你就可以做你的操作了。
高性能的三个主题
- 传输:用什么样的通道将数据发送给对方,BIO、NIO或者AIO,IO模型在很大程度上决定了框架的性能。
- 协议:采用什么样的通信协议,HTTP或者内部私有协议。协议的选择不同,性能模型也不同。相比于公有协议,内部私有协议的性能通常可以被设计的更优。
- 线程:数据报如何读取?读取之后的编解码在哪个线程进行,编解码后的消息如何派发,Reactor线程模型的不同,对性能的影响也非常大。
包结构
纵览Netty框架的包结构。Netty是有五大模块组成。
Bootstrap负责启动引导
Buffer是Netty自己封装的缓存器
Channel负责管理和建立连接
Handler是责任链路模式中的处理者
Util是Netty提供和使用到的一些工具
如何启动Netty服务器
Netty的启动服务器相关的类全部都在bootstrap包里面。所以本章我们从头开始,从bootstrap包里面的内容开始。从创建一个Netty服务器开始为大家逐步讲解Netty的应用。
相比于第五章的ChannelHandler里面的编解码器bootstrap里面可以说是内容少的可怜。来看一下他的包内容:
简简单单的三个类,一个接口。
Bootstrap是客户端的启动程序类。
ServerBootstrap是服务端的启动程序类
Bootstrap和ServerBootstrap继承AbstractBootstrap。
ChannelFactory则是AbstractBootstrap中用于创建Channel的接口
以下代码以服务端的启动程序启动为例:
步骤一:实例化ServerBootstrap
首先我们需要实例化一个ServerBootstrap服务端启动引导程序。如下图:
步骤二:设置它的线程组
创建两个NioEventLoopGroup,一个是父线程(Boss线程),一个是子线程(work线程)。
设置bootstrap的线程组
设置线程组主要的目的是为了处理Channel中的事件和IO操作。
下图为ServerBootstrap的group方法的源码:
父线程组被传递到父类中。
步骤三:设置Channel类型
设置Channel类型:可以设置TCP的server 和UDP server
bootstrap.channel(NioDatagramChannel.class)//设置UDP通道
下图ServerBootstrap中channel()方法的源码:
我们可以看到创建并设置了一个Channel工厂。
下图是BootstrapChannelFactory的源码。它是一个终态的静态的类。实现ChannelFactory。作用是根据初始设置的Channel类型,创建并返回一个新的Channel。
步骤四:设置责任链路
责任链模式是Netty的核心部分。每个处理者只负责自己有关的东西。然后将处理结果根据责任链传递下去。
我们要在初始的设置一个责任链路。当一个Channel被创建之后初始化的时候将被设置。下图是ServerBootstrap在init()方法的源码:
创建一个Channel,在初始化的设置管道里面的处理者。
步骤五:绑定并监听端口
绑定并设置监听端口。
经过以上的5个步骤,我们的服务器就足以启动了。很多的设置都是Netty默认的。我们想设置自己的参数怎么办呢?Netty提供了这个方法。
步骤六:其他设置
- 设置Channel选项配置:
在Netty 以前的版本中都是以字符串来配置的。4.x版本发布之后统一修改为使用ChannelOption类来实现配置。
例如:
Socket连接是否保存连接:
- 设置子Channel的属性:
设置子Channel的属性。当值为null是,属性将被删除。
Netty 解决粘包、拆包、编解码
首先TCP是一个"流"协议,犹如河中水一样连成一片,没有严格的分界线。当我们在发送数据的时候就会出现多发送与少发送问题,也就是TCP粘包与拆包。得不到我们想要的效果。
所谓粘包:当你把A,B两个数据从甲发送到乙,本想A与B单独发送,但是你却把AB一起发送了,此时AB粘在一起,就是粘包了
所谓拆包: 如果发送数据的时候,你把A、B拆成了几份发,就是拆包了。当然数据不是你主动拆的,是TCP流自动拆的
TCP粘包与拆包产生原因
1.进行了MSS大小的TCP分段
2.以太网帧的plyload大与MTU进行了IP分片
3.应用程序write写入的字节大小大于套接口发送的缓冲区大小
解决方法
1.消息定长,比如把报文消息固定为500字节,不够用空格补位
2.在包尾增加回车换行符进行分割,例如FTP协议
3.将消息分为消息头和消息体,消息头中包含表示消息总长度的字段
4.更复杂的应用层协议
Netty常用的解码器
LineBasedFrameDecoder解码器
LineBasedFrameDecoder是回车换行解码器,如果用户发送的消息以回车换行符作为消息结束的标识,则可以直接使用Netty的LineBasedFrameDecoder对消息进行解码,只需要在初始化Netty服务端或者客户端时将LineBasedFrameDecoder正确的添加到ChannelPipeline中即可,不需要自己重新实现一套换行解码器。
DelimiterBasedFrameDecoder解码器
DelimiterBasedFrameDecoder是分隔符解码器,用户可以指定消息结束的分隔符,它可以自动完成以分隔符作为码流结束标识的消息的解码。回车换行解码器实际上是一种特殊的DelimiterBasedFrameDecoder解码器。
FixedLengthFrameDecoder解码器
FixedLengthFrameDecoder是固定长度解码器,它能够按照指定的长度对消息进行自动解码,开发者不需要考虑TCP的粘包/拆包等问题,非常实用。
ObjectEncoder编码器
ObjectEncoder是Java序列化编码器,它负责将实现Serializable接口的对象序列化为byte [],然后写入到ByteBuf中用于消息的跨网络传输。
@汇总整理 by utoken