异步IO

转载 2015年11月19日 17:47:38

在IO编程一节中,我们已经知道,CPU的速度远远快于磁盘、网络等IO。在一个线程中,CPU执行代码的速度极快,然而,一旦遇到IO操作,如读写文件、发送网络数据时,就需要等待IO操作完成,才能继续进行下一步操作。这种情况称为同步IO。

在IO操作的过程中,当前线程被挂起,而其他需要CPU执行的代码就无法被当前线程执行了。

因为一个IO操作就阻塞了当前线程,导致其他代码无法执行,所以我们必须使用多线程或者多进程来并发执行代码,为多个用户服务。每个用户都会分配一个线程,如果遇到IO导致线程被挂起,其他用户的线程不受影响。

多线程和多进程的模型虽然解决了并发问题,但是系统不能无上限地增加线程。由于系统切换线程的开销也很大,所以,一旦线程数量过多,CPU的时间就花在线程切换上了,真正运行代码的时间就少了,结果导致性能严重下降。

由于我们要解决的问题是CPU高速执行能力和IO设备的龟速严重不匹配,多线程和多进程只是解决这一问题的一种方法。

另一种解决IO问题的方法是异步IO。当代码需要执行一个耗时的IO操作时,它只发出IO指令,并不等待IO结果,然后就去执行其他代码了。一段时间后,当IO返回结果时,再通知CPU进行处理。

可以想象如果按普通顺序写出的代码实际上是没法完成异步IO的:

do_some_code()
f = open('/path/to/file', 'r')
r = f.read() # <== 线程停在此处等待IO操作结果
# IO操作完成后线程才能继续执行:
do_some_code(r)

所以,同步IO模型的代码是无法实现异步IO模型的。

异步IO模型需要一个消息循环,在消息循环中,主线程不断地重复“读取消息-处理消息”这一过程:

loop = get_event_loop()
while True:
    event = loop.get_event()
    process_event(event)

消息模型其实早在应用在桌面应用程序中了。一个GUI程序的主线程就负责不停地读取消息并处理消息。所有的键盘、鼠标等消息都被发送到GUI程序的消息队列中,然后由GUI程序的主线程处理。

由于GUI线程处理键盘、鼠标等消息的速度非常快,所以用户感觉不到延迟。某些时候,GUI线程在一个消息处理的过程中遇到问题导致一次消息处理时间过长,此时,用户会感觉到整个GUI程序停止响应了,敲键盘、点鼠标都没有反应。这种情况说明在消息模型中,处理一个消息必须非常迅速,否则,主线程将无法及时处理消息队列中的其他消息,导致程序看上去停止响应。

消息模型是如何解决同步IO必须等待IO操作这一问题的呢?当遇到IO操作时,代码只负责发出IO请求,不等待IO结果,然后直接结束本轮消息处理,进入下一轮消息处理过程。当IO操作完成后,将收到一条“IO完成”的消息,处理该消息时就可以直接获取IO操作结果。

在“发出IO请求”到收到“IO完成”的这段时间里,同步IO模型下,主线程只能挂起,但异步IO模型下,主线程并没有休息,而是在消息循环中继续处理其他消息。这样,在异步IO模型下,一个线程就可以同时处理多个IO请求,并且没有切换线程的操作。对于大多数IO密集型的应用程序,使用异步IO将大大提升系统的多任务处理能力。

异步IO框架

烽驿2009开源实时通信平台 源码获取:svn checkout http://fy2009.googlecode.com/svn/trunk/ fy2009-read-only  大型通信服务器通常...
  • dreamfreelancer
  • dreamfreelancer
  • 2009年07月26日 13:17
  • 7010

Windows 异步IO的几种实现方式

Windows上的异步IO有好几种实现方式。 设备内核对象 这是最简单的一种了,直接用设备内核对象的状态。比如文件句柄,线程句柄等等,这些内核对象都是有一个触发状态的,比如当一个线程结束后...
  • zj510
  • zj510
  • 2015年03月26日 18:00
  • 7447

Java 异步IO

http://www.blogjava.net/killme2008/archive/2012/09/17/295743.html 按照《Unix网络编程》的划分,IO模型可以分为:阻塞IO、非阻塞...
  • fanshadoop
  • fanshadoop
  • 2012年10月22日 06:56
  • 2812

两副图让你彻底明白同步IO和异步IO的区别

两副图让你彻底明白同步IO和异步IO的区别
  • laijieyao
  • laijieyao
  • 2015年03月12日 10:30
  • 7488

Windows异步IO

1、 同步IO时,发出IO请求的线程会被挂起。而异步IO时发出请求的线程不会被挂起,而是可以继续执行。异步IO请求传给了设备驱动程序,被加入到驱动程序的请求队列中,驱动程序负责实际的IO操作。当设备驱...
  • milanleon
  • milanleon
  • 2014年07月17日 08:50
  • 1018

linux下开启异步IO

最近在研究如何在IO竞争的情况下,如果存储级别已经无法优化,还有其他什么办法解决IO竞争问题。最后想到了异步IO。 我的redo写磁盘的速度已经达到了最大值,无论我如何调整redo大小和组数,无论我...
  • laven54
  • laven54
  • 2013年08月05日 19:24
  • 1838

启用oracle异步IO机制

最近在研究如何在IO竞争的情况下,如果存储级别已经无法优化,还有其他什么办法解决IO竞争问题。最后想到了异步IO。 我的redo写磁盘的速度已经达到了最大值,无论我如何调整redo大小和组数,无论我...
  • zhou689689
  • zhou689689
  • 2014年11月21日 17:24
  • 1156

c++异步io学习笔记

// tr1.cpp : 定义控制台应用程序的入口点。 // #include "stdafx.h" #include #include #include #include #include...
  • redeyerabbit
  • redeyerabbit
  • 2012年09月17日 11:36
  • 2411

Oracle在Linux下使用异步IO配置

转自:http://blog.itpub.net/21601207/viewspace-677887/ Oracle在Linux下使用异步IO配置  最近在测试...
  • yongjiao124
  • yongjiao124
  • 2016年04月25日 08:54
  • 847

深入剖析Nodejs的异步IO

前言:Nodejs最赖以自豪的优势莫过于“单线程实现异步IO”了,也许你仍然丈二和尚摸不着头脑,Nodejs自我标榜是单线程,还能实现异步IO操作,这两者难道不是相互矛盾的么?葫芦里到底藏着什么药? ...
  • yezhenxu1992
  • yezhenxu1992
  • 2016年06月22日 00:55
  • 4028
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:异步IO
举报原因:
原因补充:

(最多只允许输入30个字)