完成端口模型

参考博文(感觉写的真的太好了!)—— http://blog.csdn.net/piggyxp/article/details/6922277


完成端口(Completion Port)是一种在Windows服务平台上比较成熟和高效的I/O操作方法,它使用线程池处理异步I/O请求。利用完成端口模型,应用程序可以管理成百上千个Socket。是真正意义上的异步模型,大大提高了应用程序性能,提高了并发处理能力。

可以把完成端口看成系统维护的一个队列,操作系统把重叠I/O操作完成的事件通知放到该队列中,因此称其为“完成”端口。当Socket被创建后,可以将其与一个完成端口联系起来。

一个应用程序可以创建多个工作线程用于处理完成端口上的通知事件。通常应该为每个CPU创建一个线程。

服务器模型工作原理:服务器创建线程与客户端进行通信。根据线程管理方式不同,服务器程序划分为1.串行线程(单个线程处理客户端请求,同一时刻处理一个客户端请求),2.并行线程(使用一个线程来等待客户端的连接请求,然后创建新线程与客户端进行通信。每个客户端都拥有一个专门的通信服务线程)。

完成端口模型工作原理:属于并行线程模型。规定了并行线程数量,使用线程池对线程进行管理。(线程池限制了工作线程数量,避免了反复创建线程的开销,减少了线程调度的开销。)

完成端口工作过程:有几个CPU就开几个线程准备着,避免线程上下文切换,线程要执行的时候总会有CPU资源用。当客户请求到达时,将请求加入消息队列。线程排队逐一处理消息队列中的消息。线程空闲时被系统挂起,不占用CPU周期。

“完成”——网络I/O操作完成后通知。系统通知我们时,不是有数据从网络上要来,而是数据已经到家门口了,仆人已经将其接入客厅。

基本流程:1-4 部署

1.CreateIoCompletionPort() 创建完成端口,并保存句柄

2.有多少个处理器,就建立多少个线程

3.接受客户端连接AcceptEx()(也可以用accept)
4.每当客户端连接时,调用CreateIoCompletionPort()将新的socket与完成端口绑定

5.线程分别调用GetQueuedCompletionStatus(),扫描队列里是否有网络通信请求,有则取回执行线程处理代码。


AcceptEx()的好处:

1.先建立Socket,然后才发出的AcceptEx调用

2.不阻塞,可以同时在完成端口上投递多个请求

3.在投递AcceptEx时,还可同时收取客户端发来的第一组数据——在我们收到AcceptEx完成的通知的时候,我们就已经把这第一组数据接完毕了。但是这也意味着,如果客户端只是连入但是不发送数据的话,我们就不会收到这个AcceptEx完成的通知!


流程:1-4初始化

1.创建完成端口对象

CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, 0, 0 );

INVALID_HANDLE_VALUE:表示与文件句柄无关的I/O完成端口;

完成端口句柄NULL:创建;

完成建;

允许并发处理I/O完成数据包的最大线程数0;系统根据CPU数量来自动选择。

2.获取CPU核心数量并创建对应线程数——充分利用CPU资源

SYSTEM_INFO sys;
GetSystemInfo(&sys);
int m_nProcessors = sys.dwNumberOfProcessors;

3.创建监听socket,绑定到完成端口并进行监听连接请求

4.再次调用CreateIoCompletionPort()绑定Socket与之前创建的完成端口(与第一次调用参数不同,作用不一样)

5.在监听Socket上投递AcceptEx请求

(a.静态链接mswsock.lib来使用AcceptEx。不推荐。b.WSAIoctl 配合SIO_GET_EXTENSION_FUNCTION_POINTER参数来获取函数的指针,再调用AcceptEx。原因:未取得函数指针的情况下就调用AcceptEx的开销很大,AcceptEx 实际上是存在于Winsock2结构体系之外。直接调用AcceptEx首先代码就只能在微软的平台上用,没有办法在其他平台上调用到该平台提供的AcceptEx的版本(如果有的话)。更糟糕的是,每次调用AcceptEx时,Service Provider都得要通过WSAIoctl()获取一次该函数指针,效率太低。)

6.使用 GetQueuedCompletionStatus() 监控完成端口

让线程进入不占用CPU的睡眠状态,直到完成端口上出现了需要处理的网络操作或者超出了等待的时间限制为止。完成端口上出现了已完成的I/O请求,那么等待的线程会被立刻唤醒,然后继续执行后续的代码。

7.接收客户端连接,并获得使用GetAcceptExSockAddrs()获得信息

8.WSARecv()接收数据

9.关闭完成端口PostQueuedCompletionStatus()

在Vista/Win7系统中,可以直接CloseHandle关掉完成端口的句柄,所有在GetQueuedCompletionStatus()的线程都会被唤醒,并且返回FALSE,这时调用GetLastError()获取错误码时,会返回ERROR_INVALID_HANDLE,这样每一个线程就可以通过这种方式退出了。





  • 0
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
最近有项目要做一个高性能网络服务器,决定下功夫搞定完成端口(IOCP),最终花了一个星期终于把它弄清楚了,并用C++写了一个版本,效率很不错。 但,从项目的总体需求来考虑,最终决定上.net平台,因此又花了一天一夜弄出了一个C#版,在这与大家分享。 一些心得体会: 1、在C#中,不用去面对完成端口的操作系统内核对象,Microsoft已经为我们提供了SocketAsyncEventArgs类,它封装了IOCP的使用。请参考:http://msdn.microsoft.com/zh-cn/library/system.net.sockets.socketasynceventargs.aspx?cs-save-lang=1&cs-lang=cpp#code-snippet-1。 2、我的SocketAsyncEventArgsPool类使用List对象来存储对客户端来通信的SocketAsyncEventArgs对象,它相当于直接使用内核对象时的IoContext。我这样设计比用堆栈来实现的好处理是,我可以在SocketAsyncEventArgsPool池中找到任何一个与服务器连接的客户,主动向它发信息。而用堆栈来实现的话,要主动给客户发信息,则还要设计一个结构来存储已连接上服务器的客户。 3、对每一个客户端不管还发送还是接收,我使用同一个SocketAsyncEventArgs对象,对每一个客户端来说,通信是同步进行的,也就是说服务器高度保证同一个客户连接上要么在投递发送请求,并等待;或者是在投递接收请求,等待中。本例只做echo服务器,还未考虑由服务器主动向客户发送信息。 4、SocketAsyncEventArgs的UserToken被直接设定为被接受的客户端Socket。 5、没有使用BufferManager 类,因为我在初始化时给每一个SocketAsyncEventArgsPool中的对象分配一个缓冲区,发送时使用Arrary.Copy来进行字符拷贝,不去改变缓冲区的位置,只改变使用的长度,因此在下次投递接收请求时恢复缓冲区长度就可以了!如果要主动给客户发信息的话,可以new一个SocketAsyncEventArgs对象,或者在初始化中建立几个来专门用于主动发送信息,因为这种需求一般是进行信息群发,建立一个对象可以用于很多次信息发送,总体来看,这种花销不大,还减去了字符拷贝和消耗。 6、测试结果:(在我的笔记本上时行的,我的本本是T420 I7 8G内存) 100客户 100,000(十万次)不间断的发送接收数据(发送和接收之间没有Sleep,就一个一循环,不断的发送与接收) 耗时3004.6325 秒完成 总共 10,000,000 一千万次访问 平均每分完成 199,691.6 次发送与接收 平均每秒完成 3,328.2 次发送与接收 整个运行过程中,内存消耗在开始两三分种后就保持稳定不再增涨。 看了一下对每个客户端的延迟最多不超过2秒。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值