关于IO完成端口与异步IO （About IO Completion Port and Asynchronous I/O）

Asynchronous I/O is a mechanism through which a calling thread can submit an I/O request and return before the submitted request gets served by the kernel.

 

There are four way by which the calling thread can know the status and result of the submitted asynchronous I/O request:

 

• Event Object : 可以把一个 Event 对象设置到 OVERLAPPED  结构中，然后把这个 OVERLAPPED 结构传递给一个ReadFile 或者 WriteFile 函数，对以 FILE_FLAG_OVERLAPPED 方式打开的 IO 对象进行操作。当 IO 请求完成以后，OVERLAPPED 结构中的 Event 对象就会Signaled，任何等待函数都得到释放，可以处理对 I/O  对象进行同步操作。这种方法为多个线程对同一个文件进行 IO 操作提供了很大的灵活性，因为不同的线程可以等待OVERLAPPED 结构中相应于每个已经提交的（即已经完成的）IO 操作的事件对象。在这种情况下，线程需要调用 waitXXX APIs 来取得已经提交的异步 I/O 请求的状态。

• Using File Object : 线程可以等待文件句柄同步提交了的完成 IO 操作。这个方法有一个弊端，当一个应用程序在同一个文件句柄上开始了两个 I/O操作，则应用程序无法确定那个 完成 I/O 已经完成并装文件句柄 signaled 。这种情况下，线程也需要等待 IO 请求的完成。

• GetOverlappedResult : 能过调用这个函数，可以像使用等待函数一样（bWait 参数设为 TRUE）。使用使递给函数的 OVERLAPPED 结构中的事件 Event 对象总是安全的。如果 OVERLAPPED 结构中的 hEvent 成员为 NULL，那么在IO 操作完成提交后，Kernel 会signaled hFile 对象。

• IO Completion Port : IO Completion 端口是内核对象，它可以与多个 IO 对象（如文件对、socket 或管道）关联起来。当一个异步操作在一个已经与 IO Completion 端口关联的 IO 对象上启动，调用线程会马上返回，当一个提交的 IO 请求完成以后，内核会把完成报文投递到与完成端口关联的队列。

 

    Windows 引入 IO 完成端口的目的是为了实现一个能够更适合服务应用的构架的需要：服务应用应该可以使用有限的线程以服务于多个客户端，它整合了线程池。这些线程的数量取决于处理器的数量。一个 IO 完成端口和异步 IO 操作可以捆绑在一起来实现一个可扩展的服务应用。   

    CreateIoCompletionPort 函数用于把一个 IO 对象与一个 IO 完成端口关联在一起。当一个 IO 操作在一个与 IO 完成端口关联了的 IO 对象上执行时，在提交的 IO 请求完成后，内核 IO 系统会把 IO 完成报文派送到与 IO 完成端口关联的队列。而线程池中的工作线程通过调用 GetQueueCompletionStatus 函数等待 IO 完成端口（的状态）。 

    在堵塞在 IO 完成端口上的线程将会以 LIFO 的方式被释放，这是一种最适合服务应用构架的方式，因为它能减少上下文的切换，这是服务应用设计的基本特征。一旦工作者线程完成对队列中的 IO 完成报文的处理后，线程会调用 GetQueueCompletionStatus 函数去获取并处理下一个 IO 完成报文。如果队列中没有报文，那么线程会被阴塞并等待报文分派到 IO 完成端口上。

    这就是 IO Completion Port 的优美与强大之所在，因为更少的上下文切换，更高的效率提供便佳的性能表现，从而服务器能承受更大的负荷。因为调用 GetQueueCompletionStatus 总能够取回排队中的 IO 完成报文，工作者线程不会被阻塞，从而能减少上下文的切换。

内核会控制与 IO Completion Port 关联的可运行线程数量，从而使之不超过 IO Completion Port 的并发限制。内核所采用的控制方法是：阻塞调用 GetQueueCompletionStatus 函数的的线程，直到与 Port 关联的可运行线程数低于创建 Port 时设定的并发限制为止。

    当一个 GetQueueCompletionStatus 返回，只表示在某 IO 对象上的 IO 请求已经完成，服务应用需要确定这个 IO 请求是在那个 IO 对象上完成的，这一重要信息是通过 GetQueueCompletionStatus 函数的 Key  参数返回给调用者的，这个Key 值是在 IO 完成端品与一个 IO 对象关联时指定给完成端口的，如果理解这个 Key ，取决于服务应用本身，服务应用可以使用这个Key 来唯一标识存储在一个客户信息数组中的一条客户信息记录。