Netty学习之NIO零拷贝

概念

零拷贝是一种I/O操作优化技术，可以快速高效将数据从文件系统移动到网络接口，而不需要将其从内核空间复制到用户空间，尤其在FTP或者HTTP等协议中可以显著提升性能。但是目前只有在使用NIO或者Epoll 传输时才可以使用该特性。

传统I/O读写过程

这里按照一个我们常用功能即从我们服务器传输文件到目标服务器。 也就是文件从我们应用程序读到数据再把数据写入到网络传输到目标服务器中。

读操作

如图所示分为以下几个步骤：

• 我们应用程序读取数据 首先触发read()系统调用.这时候操作系统会进行一次上下文切换 也就是 用户空间切换到内核空间
• 然后磁盘控制器会把数据复制到内核缓冲区也就是页缓冲中，copy data 属于DMA (Direct Memory Access) copy
• 继而内核拿到数据 复制到用户空间的应用缓冲区 ，这次copy 属于 CPU copy
• read 调用返回后，会进行一次上下文应用缓冲区 内核空间切换到用户空间

写操作

如图所示分为以下几个步骤：

• 应用程序发起写操作触发write() 系统调用此时发生一次上下文切换 用户空间切换到内核空间
• 将数据copy 到内核缓冲区Socket 缓冲区 拷贝方式CPU copy.
• 内核空间再把数据复制到网卡 （也可以是磁盘或者其他存储设备）拷贝方式DMA copy.
• write end 后 从内核空间切换到用户空间。
  

传统I/O 总结

从上面读写过程可以看出总共进行4次上下文切换，四次数据复制，特别是在用户空间和内核空间来回复制，没有实际业务意义，所以这里存在浪费cpu 以及时间。

零拷贝技术

零拷贝方式

• 虚拟内存
• mmap/write
• sendfile(Linux2.1)
• 带有scatter/gather 的sendfile（Linux2.4）
• splice

技术不同实现对比

带有scatter/gather 的sendfile 零拷贝

读操作

如图所示：

• 应用程序 直接调用底层sendfile 方法 通过sendfile 调用内核获取磁盘文件data 只有一次上下文切换 只有一个DMA copy
• 内核取取到数据 不会再复制到Socket 缓冲区 而是通过CPUcopy 复制一个数据地址引用。

写操作

• 协议引擎通过文件引用标识 获取实际数据通过DMA copy 到网络或者磁盘。也是只有一次上下文切换 只有一个DMA copy 。

总结

scatter/gather 的sendfile 零拷贝 只有两次数据复制都是DMA copy 以及两次上下文切换，明显提升IO 操作 但是这个需要硬件以及驱动支持。

参考

• Netty 原理解析与开发实战
• Netty4 核心原理