图解零拷贝

最新推荐文章于 2022-12-07 22:29:40 发布
最新推荐文章于 2022-12-07 22:29:40 发布
阅读量305 收藏 1
点赞数
分类专栏： 经典问题
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/LO_YUN/article/details/107816478
版权

零拷贝相信大家都听过了，说白了呢，其实就是传统IO的性能实在有点拉胯，所以搞出来一个零拷贝机制提升一下效率

要了解零拷贝的话，首先得先了解一下传统IO的执行流程，这里举个例子，通过传统的IO进行网络传输来传输一个文件
传统IO
先上一张图，这张图就代表了传统IO传输文件的流程

  1. 读取文件的时候，会从用户态切换为内核态，同时基于DMA引擎将磁盘文件拷贝到内核缓冲区

看到这里，可能你就已经懵逼了，什么是用户态和内核态，什么是DMA拷贝，我用大白话解释一下

首先用户态其实就是CPU在执行你的代码，而内核态呢，其实就是你没有那个权限去操作硬件，所以只能交给系统去调用，这个时候就是内核态。举个例子，你的女朋友需要你修个电脑（醒醒，但凡有一粒花生米也不至于喝成这样），我换个说法，假如你同班的女同学想让你修个电脑，但是宿管阿姨不肯放你进女生宿舍，这个时候你就是用户态，你不能进女生宿舍，所以你只能让宿管阿姨（内核态）来帮你把电脑取出来

那什么是DMA拷贝呢，DMA（DirectMemoryAccess，直接内存存取）其实就是因为CPU老哥太累了，所以找了个小弟，就是DMA替他完成一部分的拷贝工作，这样CPU就能去做其他事情了

讲完了内核态和用户态还有DMA的大概意思，我们接着回到刚才的IO流程中，第一步我们将文件从磁盘文件读到了用户缓冲区，此时经历了一次上下文切换和一次拷贝

  1. 由内核态切换为用户态，基于CPU把内核缓冲区的数据拷贝到用户缓冲区

  2. 调用socket的输出流的write方法的话，此时会从用户态切换到内核态，同时基于CPU把用户缓冲区里的数据拷贝到Socket缓冲区里去，接着会有一个异步化的过程，基于DMA引擎从Socket缓冲区里把数据拷贝到网络协议引擎里发送出去

  3. 当IO操作完成之后，又从内核态切换为用户态

通过上面的步骤可以发现传统的IO操作执行，有4次上下文的切换和4次拷贝，是不是很繁琐

零拷贝的话，一般有mmap和sendFile两种，一个一个来说

mmap
mmap是一种内存映射技术，mmap相比于传统的IO来说，其实就是少了1次CPU拷贝而已，上图
mmap
传统IO里面从内核缓冲区到用户缓冲区有一次CPU拷贝，从用户缓冲区到Socket缓冲区又有一次CPU拷贝，mmap则一步到位，直接基于CPU将内核缓冲区的数据拷贝到了Socket缓冲区

之所以能够减少一次拷贝，就是因为mmap直接将磁盘文件数据映射到内核缓冲区，这个映射的过程是基于DMA拷贝的，同时用户缓冲区是跟内核缓冲区共享一块映射数据的，建立共享映射之后，就不需要从内核缓冲区拷贝到用户缓冲区了

虽然减少了一次拷贝，但是上下文切换的次数还是没变

RocketMQ中就是使用的mmap来提升磁盘文件的读写性能

sendFile
在Linux中，提供sendFile函数，实现了零拷贝，依旧是先上图
sendFile
可以看到在图中，已经没有了用户缓冲区，因为用户缓冲区是在用户空间的，所以没有了用户缓冲区也就意味着不需要上下文切换了，就省略了这一步的从内核态切换为用户态

同时也不需要基于CPU将内核缓冲区的数据拷贝到Socket缓冲区了，只需要从内核缓冲区拷贝一些offset和length到Socket缓冲区

接着从内核态切换到用户态，从内核缓冲区直接把数据拷贝到网络协议引擎里去；同时从Socket缓冲区里拷贝一些offset和length到网络协议引擎里去，但是这个offset和length的量很少，几乎可以忽略

sendFile整个过程只有两次上下文切换和两次DMA拷贝，很重要的一点是这里完全不需要CPU来进行拷贝了，所以才叫做零拷贝，这里的拷贝指的就是操作系统的层面

那你肯定会问，那mmap里面有一次CPU拷贝为啥也算零拷贝，只能说那不算是严格意义上的零拷贝，但是他确实是优化了普通IO的执行流程，就像老婆饼里也没有老婆嘛

Kafka和Tomcat内部使用就是sendFile这种零拷贝

总结一下：

传统IO执行的话需要4次上下文切换（用户态 -> 内核态 -> 用户态 -> 内核态 -> 用户态）和4次拷贝 （磁盘文件DMA拷贝到内核缓冲区，内核缓冲区CPU拷贝到用户缓冲区，用户缓冲区CPU拷贝到Socket缓冲区，Socket缓冲区DMA拷贝到协议引擎）

mmap将磁盘文件映射到内存，支持读和写，对内存的操作会反映在磁盘文件上，适合小数据量读写，需要4次上下文切换（用户态 -> 内核态 -> 用户态 -> 内核态 -> 用户态）和3次拷贝（磁盘文件DMA拷贝到内核缓冲区，内核缓冲区CPU拷贝到Socket缓冲区，Socket缓冲区DMA拷贝到协议引擎）

sendfile 是将读到内核空间的数据，转到socket buffer，进行网络发送，适合大文件传输，只需要2次上下文切换（用户态 -> 内核态 -> 用户态）和2次拷贝（磁盘文件DMA拷贝到内核缓冲区，内核缓冲区DMA拷贝到协议引擎）

霁云HYY
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
让tomcat也可以使用netty的高性能、零拷贝
weixin_55388517的博客
08-12 986
改造springboot使用的tomcat，与netty结合实现高性能零拷贝的网络读写
【Netty基础】Netty的“零拷贝”
白夜行
06-16 1万+
零拷贝的定义 Zero-copy, 就是在操作数据时, 不需要将数据 buffer 从一个内存区域拷贝到另一个内存区域. 因为少了一次内存的拷贝, 因此 CPU 的效率就得到的提升. 在 OS 层面上的 Zero-copy 通常指避免在 用户态(User-space) 与 内核态(Kernel-space) 之间来回拷贝数据。 但Netty 中的 Zero-copy 与 OS 的 Zero-copy
走进科学之揭开神秘的"零拷贝"
lizhao007
08-02 283
前言"零拷贝"这三个字，想必大家多多少少都有听过吧，这个技术在各种开源组件中都使用了，比如kafka,rocketmq,netty,nginx等等开源框架都在其中引用了这...
IO操作之零拷贝技术(图解)
清风
11-06 267
首先看下面一段代码： File file = new File("hello.txt"); RandomAccessFile ra=new RandomAccessFile(file,"r"); byte[] buff=new byte[(int) file.length()]; //读取本地文件读到一个byte数组 ra.read(buff); Socket socket=...; //向Socket写该数据 socket.getOutputStream().write(buff);.
NIO 零拷贝的示意图
a469517790的博客
06-04 214
第一部分是阻塞IO，没有零拷贝，需要在用户空间和内核空间多次切换，并且在用户空间和内核空间缓冲区多次拷贝 第二部分是NIO，减少用户空间和内核空间的切换，并且不需要用户空间和内核空间缓冲区的拷贝 第三部分是最理想的，内核空间的缓冲区不需要拷贝到socket 的缓冲区 ...
图解Kafka的零拷贝技术到底有多牛？(二)
Chain的博客
11-14 973
在上一文中“图解Kafka消息是被怎么存储的？”，我们了解了Kafka内部是如何存储数据的，其中我们提到了Kafka之所以那么快的另外一个原因就是零拷贝（zero-copy）技术。本文我们就来了解Kafka中使用的零拷贝技术为什么那么快。 传统的文件拷贝 传统的文件拷贝通常需要从用户态去转到核心态，经过read buffer，然后再返回到用户态的应用层buffer，然后再从用户态把数据拷贝到核...
linux dma拷贝数据到用户态,图解：零拷贝Zero-Copy技术大揭秘
最新发布
06-13
好的，下面我来为您图解一下Linux DMA拷贝数据到用户态的零拷贝（Zero-Copy）技术。 首先，我们需要了解什么是DMA（Direct Memory Access，直接内存访问）技术。DMA是一种数据传输技术，它允许外设直接访问系统内存...
LeetCode 移动零（双指针+图解）
hestyle的博客
03-06 626
给定一个数组 nums，编写一个函数将所有 0 移动到数组的末尾，同时保持非零元素的相对顺序。 示例: 输入: [0,1,0,3,12] 输出: [1,3,12,0,0] 说明: 必须在原数组上操作，不能拷贝额外的数组。 尽量减少操作次数。 思路分析：使用两个指针，一个指针扫描数组，一个指针用于指向移动好的非零序列的尾端。 图解示例 class Solution { public: ...
零基础Linux版MySQL源码方式安装+配置+远程连接完整图解 无坑实录
m0_62877071的博客
12-01 743
无论开发还是运维，项目环境搞不定，还真让你干不成活，MySQL在不同场景、不同平台下安装方式也不同，本次主要分享centos7下MySQL源码rpm方式安装，其它方式后续分享，很多项目还都用着MySQL5.6.x系列，所以版本没选太高，软件开发不建议都用最新的，要根据项目环境决定，别的不多说，看过内容概览，直接开整！
美团一面：说说什么是零拷贝？
xmt1139057136的专栏
09-12 437
你知道的越多，不知道的就越多，业余的像一棵小草！你来，我们一起精进！你不来，我和你的竞争对手一起精进！编辑：业余草来源：blog.csdn.net/LO_YUN/article/deta...
零拷贝的底层实现
weixin_46589575的博客
06-01 273
文章转自：https://blog.csdn.net/weixin_37782390/article/details/103833306 零拷贝这三个字，一直是服务器网络编程的关键字，任何性能优化都离不开。在 Java 程序员的世界，常用的零拷贝有 mmap 和 sendFile。那么，他们在 OS 里，到底是怎么样的一个的设计？本文将简单聊聊 mmap 和 sendFile 这两个零拷贝。 一、传统IO的劣势 初学 Java 时，我们在学习 IO 和 网络编程时，会使用以下代码： File file =
tomcat/spring怎么零拷贝的发送文件？
qq_32868023的博客
12-07 852
想要服务端发送文件，浏览器端下载文件，一般的写法是创建一个buffer不断读取文件，写到response里面，像这样 但是这样文件的发送是比较低效的，这里面涉及到两次上下文切换（用户态、内核态之间切换），CPU参与复制数据两次（从文件缓冲区复制到buffer，从buffer复制到socket缓冲区）。这篇文章介绍的比较好https://blog.csdn.net/qq_26323323/article/details/120244493实际上java NIO提供了比较高效的文件传输方式，FileChanne
原来 8 张图，就可以搞懂「零拷贝」了
小林coding
09-23 2万+
前言 磁盘可以说是计算机系统最慢的硬件之一，读写速度相差内存 10 倍以上，所以针对优化磁盘的技术非常的多，比如零拷贝、直接 I/O、异步 I/O 等等，这些优化的目的就是为了提高系统的吞吐量，另外操作系统内核中的磁盘高速缓存区，可以有效的减少磁盘的访问次数。 这次，我们就以「文件传输」作为切入点，来分析 I/O 工作方式，以及如何优化传输文件的性能。 正文 为什么要有 DMA 技术? 在没有 DMA 技术前，I/O 的过程是这样的： CPU 发出对应的指令给磁盘控制器，然后返回； 磁盘控制器收到..
关于零拷贝的一点认识
weixin_33781606的博客
04-10 600
前言 从字面意思理解就是数据不需要来回的拷贝，大大提升了系统的性能；这个词我们也经常在java nio，netty，kafka，RocketMQ等框架中听到，经常作为其提升性能的一大亮点；下面从I/O的几个概念开始，进而在分析零拷贝。 I/O概念 1.缓冲区 缓冲区是所有I/O的基础，I/O讲的无非就是把数据移进或移出缓冲区；进程执行I/O操作，就是向操作系统发出请求，让它要么把缓冲区的数据排干(...
Java NIO学习笔记四（零拷贝详解）
拿笔小星的博客
01-21 2万+
维基上是这么描述零拷贝的：零拷贝描述的是CPU不执行拷贝数据从一个存储区域到另一个存储区域的任务，这通常用于通过网络传输一个文件时以减少CPU周期和内存带宽。
零拷贝原理详解
热门推荐
Tasdily的博客
11-11 6万+
引言 传统的 Linux 操作系统的标准 I/O 接口是基于数据拷贝操作的，即 I/O 操作会导致数据在操作系统内核地址空间的缓冲区和应用程序地址空间定义的缓冲区之间进行传输。这样做最大的好处是可以减少磁盘 I/O 的操作，因为如果所请求的数据已经存放在操作系统的高速缓冲存储器中，那么就不需要再进行实际的物理磁盘 I/O 操作。但是数据传输过程中的数据拷贝操作却导致了极大的 CPU 开销，限制了操...
图解|零拷贝Zero-Copy技术大揭秘
架构师小秘圈
10-16 612
1.前言像大白这种调包侠，深知不懂底层技术点就如同空中楼阁，再这样下去面阿里p10是没希望了。想到这里，我开始慌了，所以今天和大家一起学习个底层技术点-零拷贝Zero-Copy。Linu...
零拷贝（Zero-copy）及其应用详解
SmallCatBaby的博客
05-05 2451
目录 前言 传统的数据传输方法 零拷贝的数据传输方法 “基础的”零拷贝机制 对Scatter/Gather的支持 对内存映射（mmap）的支持 零拷贝机制的应用 在Kafka中的应用 在Spark中的应用 The End 前言 这是一个多月之前留下的烂尾文，今天终于想起来了，就补全并且发出来吧。 零拷贝（Zero-copy）是一种高效的数据传输机制，在追求低...
sendfile()实现零拷贝详解
wyz19891024的专栏
05-10 1014
linux的sendfile（）系统调用 2013年11月18日 11:17    供稿中心： 互联网运营部 摘要： linux的sendfile（）系统调用 服务器响应一个http请求的步骤如下： 1 把磁盘文件读入内核缓冲区 2 从内核缓冲区读到内存 3 处理(静态资源不需处理) 4 发送到网卡的内核缓冲区(发送缓存) 5 网卡发送数据
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值