1. Netty基础知识
1.1 Netty出现的原因
- Java NIO 太难用,存在BUG(如Epoll-Bug)
- 基于第一点,大多数高性能服务器被C和C++盘踞
- 同样基于第一点,Java NIO编程门槛高
- 业界其他的NIO框架不成熟
1.2 Netty
Netty是由JBOSS提供的一个Java开源框架。Netty提供异步的、事件驱动的网络应用程序框架和工具,用以快速开发高性能、高可靠性的网络服务器和客户端程序。
也就是说,Netty 是一个基于NIO的客户、服务器端编程框架,使用Netty 可以确保你快速和简单的开发出一个网络应用,例如实现了某种协议的客户,服务端应用。Netty相当简化和流线化了网络应用的编程开发过程,例如,TCP和UDP的socket服务开发。
“快速”和“简单”并不意味着会让你的最终应用产生维护性或性能上的问题。Netty 是一个吸收了多种协议的实现经验,这些协议包括FTP,SMTP,HTTP,各种二进制,文本协议,并经过相当精心设计的项目,最终,Netty 成功的找到了一种方式,在保证易于开发的同时还保证了其应用的性能,稳定性和伸缩性.
1.3 特性
1.3.1 设计
- 统一的API,适用于不同的协议(阻塞和非阻塞)
- 基于灵活、可扩展的事件驱动模型
- 高度可定制的线程模型
- 可靠的无连接数据Socket支持(UDP)
1.3.2 性能
- 更好的吞吐量,低延迟
- 更省资源
- 尽量减少不必要的内存拷贝
1.3.3 安全
- 完整的SSL/TLS和STARTTLS的支持
- 能在Applet与Android的限制环境运行良好
1.3.4 健壮
- 不再因过快、过慢或超负载连接导致OutOfMemoryError
- 不再有在高速网络环境下NIO读写频率不一致的问题
1.3.5 易用
- 完善的JavaDoc,用户指南和样例
- 简洁简单
- 仅依赖标准JDK
1.4 与其他框架的比较
1.4.1 Mina
Mina是有apache开发的帮助用户开发高性能和高伸缩网络应用程序的框架。它通过Java nio技术基于TCP/IP和UDP/IP协议提供了抽象的、事件驱动的、异步的API。
Netty与Mina的比较:
- Netty和Mina的主导作者是同一人
- Mina出自于Apache,Netty出身于商业开源大亨Jboss
- Mina和Netty都采用了Reactors in threads模型
- Mina是heapbytebuffer,Netty是directbytebuffer
- 调度任务的不同
- Mina和内核结合更紧密
- Netty开发比Mina开发更灵活,更友好
2. 架构简介
2.1 架构分析
2.1.1 总体结构
2.1.1.1 Core
Netty Core是Netty核心内容,它包括事件模型、通用API和Zero Copy功能。是上层功能的基础,由Core可以构建不同的应用服务。
2.1.1.2 Protocl Support
Protocol Support提供了多种协议的编解码包括HTTP、二进制和Google Protobuf等等,它们通过Codec Framework进行整合。
2.1.1.3 Transport Support
Transport Support提供了基本的NIO和BIO传输实现,是Netty网络通信的基础。
2.1.1.4 Security Support
Security Support不光提供了通信层的安全保障(比如SSL/TLS),还在应用层提供了解决OOM的方案。
2.1.1.5 Container Integration
Container Integration是可以应用于其他主流开发框架的集合,通过它可以和Spring、OSGi进行快速集成,为快速使用Netty提供基础支撑。
2.1.2 逻辑架构
2.1.2.1 Reactor通信调度层
该层的主要职责是监听网络的读写和连接操作,负责将网络层的数据读取到内存缓冲区中,然后触发各种网络事件,例如连接创建、连接激活、读事件、写事件等等。将这些事件触发到PipeLine中,由PipeLine管理的职责链来后续进行处理。
2.1.2.2 PipeLine
PipeLine是职责链ChannelPipeLine,它负责事件在职责链中的有序传播,同时负责动态的编排职责链。职责链可以选择监听和处理自己关心的事件,它可以拦截处理和向后/向前传播事件。不同应用的Handler节点的功能也不同,通常情况下,往往会开发编解码Handler用于消息的编解码,它可以将外部的协议消息转换成内部的POJO对象,这样上层业务则只需要关心处理业务逻辑即可,不需要感知底层的协议差异和线程模型差异,实现层面的分层隔离。
2.1.2.3 业务逻辑编排层
业务逻辑编排层通常有两类:一类是纯粹的业务逻辑编排,还有一类是其他的应用层协议插件,用于特定协议相关的会话和链路管理。
2.1.2.4 分层设计
架构的不同层面,需要关心和处理的对象都不同,通常情况下,对于业务开发者,只需要关心职责链的拦截和业务Handler的编排,因为应用层协议栈往往是开发一次,到处运行,实际上对于业务开发者来说,只需要关心服务层的业务逻辑开发即可。各种应用协议以插件的形式提供,只有协议开发人员需要关注协议插件,对于其他业务开发人员来说,只需要关心业务逻辑定制即可。这种分层的架构设计理念实现了NIO框架各层之间的解耦,便于上层业务协议栈的开发和业务逻辑的定制。
正是由于Netty的分层架构设计合理,基于Netty的各种应用服务器和协议栈开发才能够如雨后春笋般得到快速发展。
2.2 架构特点
2.2.1 高性能
性能是设计出来的,而不是测试出来的
- 采用异步非阻塞I/O类库,基于Reactor模型实现,解决了传统同步阻塞I/O模式下一个服务器无法平滑地处理线性增长的客户端问题
- TCP接收和发送缓冲区使用直接内存代替堆内存,避免了内存复杂,提高读写性能
- 通过内存池循环利用ByteBuf,避免频繁创建和销毁带来的性能损耗
- 可配置的IO线程数、TCP参数
- 采用环形数组缓冲区实现无锁化并发编程
- 关键资源使用单线程串行化方式
- 通过引入计数器及时地申请释放不再被引用的对象,细粒度的内存管理,减少GC
2.2.2 可靠性
链路有效性检测
心跳机制进行检测:空闲时检测,事件通知
内存保护机制
计数器、重用、上限
优雅停机
2.2.3 可定制扩展性
- 责任链模式
- 基于接口开发
- 提供了大量工厂类
- 提供了大量的可配置参数
3. 应用
在互联网中的应用:Dubbo
提供异步、高性能的NIO的通信框架
NIO客户端和服务端
心跳检测能力
断连重连机制
流量控制
Dubbo协议的编解码
大数据领域的应用:Apache Avro
提供异步、高性能的NIO的通信框架
NIO客户端和服务端
心跳检测能力
断连重连机制
流量控制
游戏服务器的应用
为各进程提供高性能的异步网络通信能力
自定义协议的编解码
心跳检测、流量整形、日志统计
SSL、黑白名单
内存池技术保证最大限度重用对象
4. 未来发展
- 广泛的应用
深入的技术演进
- 支持Android
- 简化处理器层次
- 更简单更精确的缓冲区泄漏追踪
- 更灵活的线程模型
- ...
活跃的社区
最后的提交在两小时前
明确的Road Map
4.x
5.x