I/O( INPUT OUTPUT),包括文件I/O、网络I/O。
计算机世界里的速度鄙视:
-
内存读数据:纳秒级别。
-
千兆网卡读数据:微妙级别。1微秒=1000纳秒,网卡比内存慢了千倍。
-
磁盘读数据:毫秒级别。1毫秒=10万纳秒 ,硬盘比内存慢了10万倍。
-
CPU一个时钟周期1纳秒上下,内存算是比较接近CPU的,其他都等不起。
CPU 处理数据的速度远大于I/O准备数据的速度 。
任何编程语言都会遇到这种CPU处理速度和I/O速度不匹配的问题!
在网络编程中如何进行网络I/O优化:怎么高效地利用CPU进行网络数据处理???
相关概念
从操作系统层面怎么理解网络I/O呢? 计算机的世界有一套自己定义的概念。如果不明白这些概念,就无法真正明白技术的设计思路和本质。所以在我看来,这些概念是了解技术和计算机世界的基础。
1.1 同步与异步,阻塞与非阻塞
理解网络I/O避不开的话题:同步与异步,阻塞与非阻塞。拿山治烧水举例来说,(山治的行为好比用户程序,烧水好比内核提供的系统调用),这两组概念翻译成大白话可以这么理解。
- 同步/异步关注的是水烧开之后需不需要我来处理。
- 阻塞/非阻塞关注的是在水烧开的这段时间是不是干了其他事。
1.1.1 同步阻塞
点火后,傻等,不等到水开坚决不干任何事(阻塞),水开了关火(同步)。
1.1.2 同步非阻塞
点火后,去看电视(非阻塞),时不时看水开了没有,水开后关火(同步)。
1.1.3 异步阻塞
按下开关后,傻等水开(阻塞),水开后自动断电(异步)。
网络编程中不存在的模型。
1.1.4 异步非阻塞
按下开关后,该干嘛干嘛 (非阻塞),水开后自动断电(异步)。
1.2 内核空间 、用户空间
- 内核负责网络和文件数据的读写。
- 用户程序通过系统调用获得网络和文件的数据。
1.2.1 内核态 用户态
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-nhIGHrYl-1577193884419)(https://upload-images.jianshu.io/upload_images/15462057-4abe5417369d29b6?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)]
- 程序为读写数据不得不发生系统调用。
- 通过系统调用接口,线程从用户态切换到内核态,内核读写数据后,再切换回来。
- 进程或线程的不同空间状态。
1.2.2 线程的切换
用户态和内核态的切换耗时,费资源(内存、CPU)优化建议:
- 更少的切换。
- 共享空间。