欢迎关注头条号:老顾聊技术
精品原创技术分享,知识的组装工
目录
- 前言
- 传统读操作
- 传统写操作
- 传统IO
- 虚拟内存
- mmap+write方式
- sendfile方式
- gather
- JAVA零拷贝
- 总结
前言
老顾在接触大数据相关技术栈时,发现大数据相关的技术也是非常复杂,技术迭代也是很快的(我们搞技术的就是这么悲催啊,一直处于学习中.....)。很多更新的技术在宣传的时候,都会提到速度、性能这个指标,什么提升了10倍,100倍啊。其中有一个技术点叫做zero-copy,也叫做零拷贝,是很多中间件都用到的技术,今天老顾就来给大家讲讲什么是零拷贝。
传统读操作
![9ec2efc7bb4c3d653fbfb06cb7202857.png](https://i-blog.csdnimg.cn/blog_migrate/9a1b497d5a807ae72de75dfd9bf04974.jpeg)
JAVA用传统方式进行读操作时,整体流程如上图,具体如下:
1、应用程序发起读数据操作,JVM会发起read()系统调用。
2、这时操作系统OS会进行一次上下文切换(把用户空间切换到内核空间)
3、通过磁盘控制器把数据copy到内核缓冲区中,这里的就发生了一次DMA Copy
4、然后内核将数据copy到用户空间的应用缓冲区中,发生了一次CPU Copy
5、read调用返回后,会再进行一次上下文切换(把内核空间切换到用户空间)
我们看一下一个读操作,发了2次上下文切换,和2次数据copy,一次是DMA Copy,一次是CPU Copy。
注意一点的是 内核从磁盘上面读取数据 是 不消耗CPU时间的,是通过磁盘控制器完成;称之为DMA Copy。
传统写操作
![4117cae5d37cff39c659ce67be2487d1.png](https://i-blog.csdnimg.cn/blog_migrate/2797b1da9b186fcd657c107da5c14cde.jpeg)
上图是JAVA传统的写操作,具体流程:
1、应用发起写操作,OS进行一次上下文切换(从用户空间切换为内核空间)
2、并且把数据copy到内核缓冲区Socket Buffer,做了一次CPU Copy
3、内核空间再把数据copy到磁盘或其他存储(网卡,进行网络传输),进行了DMA Copy
4、写入结束后返回,又从内核空间切换到用户空间
传统IO
我们可以看出传统的IO读写操作,总共进行了4次上下文切换,4次Copy动作。我们可以看到数据在内核空间和应用空间之间来回复制,其实他们什么都没有做,就是复制而已,这个机制太浪费时间了,而且是浪费的CPU的时间。
那我们能不能让数据不要来回复制呢?零拷贝这个技术就是来解决这个问题。关于零拷贝提供了两种解决方式:mmap+write方式、sendfile方式
虚拟内存
所有现代操作系统都使用虚拟内存,使用虚拟地址取代物理地址,这样做的好处就是:
1、多个虚拟内存可以指向同一个物理地址
2、虚拟内存空间可以远远大于物理内存空间
我们利用第一条特性可以优化一下上面的设计思路,就是把内核空间和用户空间的虚拟地址映射到同一个物理地址,这样就不需要来回复制了,看图:
![f21948e2a811dc4968ee802ce075fa09.png](https://i-blog.csdnimg.cn/blog_migrate/47d695ba00bdc41d2cddedc5df9c9e87.jpeg)
mmap+write方式
使用mmap+write方式替换原来的传统IO方式,就是利用了虚拟内存的特性,看图
![10a99cad1093b7d725c1bfc2fe8d62e7.png](https://i-blog.csdnimg.cn/blog_migrate/63dfa926c4ec8799da04eb3c7de7f807.jpeg)
整体流程的核心区别就是,把数据读取到内核缓冲区后,应用程序进行写入操作时,直接是把内核的Read Buffer的数据 复制到 Socket Buffer 以便进行写入,这次内核之间的复制也是需要CPU参与的。
注意:最后把Socket Buffer数据拷贝到很多地方,统称protocol engine(协议引擎)
这个流程就少了一个CPU Copy,提升了IO的速度。不过发现上下文的切换还是4次,没有减少,因为还是要应用程序发起write操作。那能不能减少上下文切换呢?
sendfile方式
这种方式可以替换上面的mmap+write方式,如:
mmap();write();
替换为
sendfile();
这样就减少了一次上下文切换,因为少了一个应用程序发起write操作,直接发起sendfile操作。
到这里就只有3次Copy,其中只有1次CPU Copy;3次上下文切换。那能不能把CPU Copy减少到没有呢?
gather
Linux2.4内核进行了优化,提供了gather操作,这个操作可以把最后一次CPU Copy去除,什么原理呢?就是在内核空间Read Buffer和Socket Buffer不做数据复制,而是将Read Buffer的内存地址、偏移量记录到相应的Socket Buffer中,这样就不需要复制(其实本质就是和虚拟内存的解决方法思路一样,就是内存地址的记录),如图:
![888fb2275f90a732afe8ee6cb1fb40c4.png](https://i-blog.csdnimg.cn/blog_migrate/1a129a47fa5e2c56dc3aede6efb77a1f.jpeg)
JAVA零拷贝
java nio实现零拷贝,JAVA提供了一下方法类:
1、MappedByteBuffer2、DirectByteBuffer3、FileChannel.transferTo
具体如何使用,小伙伴们上网自行查阅。
总结
零拷贝技术在很多中间件中,都有利用;如:Kafka,Spark、RocketMQ等,这个在网络传输数据时,能够提升速度,提升系统性能、吞吐量。小伙伴们不一定会编写,可以先了解基本原理就行。很多好的中间件产品都需要了解一些计算机原理方面的知识,才会更深入的理解。
好了,老顾今天就介绍到这里,谢谢!!!
-End-
如有收获,请帮忙转发,您的鼓励是作者最大的动力,谢谢!
10几年的经验实战分享
相关微服务,分布式,高并发,高可用,企业实战,干货等原创文章正在路上
欢迎关注头条号:老顾聊技术
精品原创技术分享,知识的组装工