学习笔记(09):C++网络编程进阶-IO模型之完成端口completion port

立即学习:https://edu.csdn.net/course/play/6082/113764?utm_source=blogtoedu

完成端口IOCP模型

一个完成端口实际上就是一个通知队列,操作系统吧已经完成的重叠IO请求通知发到队列中,完成端口会充分利用Windows最复杂的内核对象来进行IO的调度,属于异步IO,适用于CS通信模式中性能最好的网络通信模型。

完成端口IOCP模型的原理

完成端口创建几个线程,等到用户请求的时候,就把这些请求都加入到一个公共消息队列中去,然后这几个线程就排队从消息队列中取出消息并加以处理,这种方式就很优雅的实现了异步通信和负载均衡的问题,因为它提供了一种机制来使用几个线程“公平的”处理来自多个客户端的输入输出,并且线程如果没事干的时候会被系统挂起,不会占用CPU周期,这个关键的作为交换的消息队列,它就是完成端口。

使用完成端口的基本流程

1、调用CreateIoCompletionPort函数创建一个完成端口,第四个参数设为0,让完成端口上每次处理一次只允许执行的线程

2、根据系统中CPU核心的数量建立对应的Worker线程,

3、一个用于监听的Socket,在指定的端口上监听连接请求

4、将接受的套接字绑定到完成端口

5、使用重叠IO,在套接字上投递一个或者多个WSARecv或者WSASend请求

 

在新开辟的线程中

1、在Worker线程使用GetQueuedCompletionStatus函数,它让Worker线程进入不占用CPU的睡眠状态,直到完成端口上出现了需要大量处理的网络操作或者超出了等待的时间限制为止

2、使用重叠IO,在套接字上投递一个或者多个WSARecv或者WSASend请求

3、重复1~2步骤。

 

CreateIoCompletionPort函数

CreateIoCompletionPort(

HANDLE FileHandle,

HANDLE ExistingCompletionPort,

ULONG_PTR CompletionKey,

DWORD NumberOfConcurrentThreads

);

参数:

第一个参数:有效的文件句柄或者INVALID_HANDLE_VALUE

第二个参数:已经存在的完成端口,为NULL则新建一个IOCP

第三个参数:传送给处理函数的参数

第四个参数:有多个线程在访问这个消息队列,当参数WxistingCompletionPort不为0的时候,系统忽略该参数,当该参数为0表示允许同时相等数据处理器个数的线程访问该消息队列。

返回值:

成功返回一个IOCP的句柄,失败返回NULL ;

GetQueuedCompletionStatus函数

GetQueuedCompletionStatus(

HANDLE CompletionPort,

LPDWORD lpNumberOfBytesTransferred,

PULONG_PTR lpCompletionKey,

LPOVERLAPPED* lpOverlapped,

DWORD dwMilliseconds

);

参数:

第一个参数:完成端口

第二个参数:接收一个IO操作中完成的字节数

第三个参数:自定义结构体参数

第四个参数:完成IO操作时指定的重叠结构的地址

第五个参数:等待完成包出现在完成端口的毫秒数,INFINITE(一直等待)

返回值:

成功返回TRUE , 失败FALSE,调用WSAGetLastError得到扩展的错误

 

服务端代码

#include <iostream>
#include<WinSock2.h>
#include<cstdlib>
#pragma comment(lib,"ws2_32.lib")
using namespace std;
DWORD WINAPI WorkerThread(LPVOID CompletionPortId);
typedef struct _MY_WSAOVERLAPPED
{
    WSAOVERLAPPED overlap;
    WSABUF Buffer;
    DWORD NumberOfBytesRecvd;
    DWORD Flags;
    SOCKET socket;
    _MY_WSAOVERLAPPED()
    {
        Buffer.buf = new char[64]{ '\0' };
        Buffer.len = 64;
        Flags = 0;
        overlap.hEvent = NULL;
    }
    ~_MY_WSAOVERLAPPED()
    {
        delete[]Buffer.buf;
        Buffer.buf = NULL;
        Buffer.len = 0;
    }
}MY_WSAOVERLAPPED, * PMY_WSAOVERLAPPED;
int main()
{
    WSADATA wd;
    if (WSAStartup(MAKEWORD(2, 2), &wd) != 0)
    {
        cout << "wsastartup error " << WSAGetLastError() << endl;
        exit(EXIT_FAILURE);
    }
    //1 调用CreateIoCompletionPort函数创建一个完成端口,第四个参数设为0,让完成端口上每次处理一次只允许执行的线程
    HANDLE completionPort = CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, 0, 0);
    if (completionPort == NULL)
    {
        cout << "CreateIoCompletionPort " << WSAGetLastError() << endl;
        exit(EXIT_FAILURE);
    }
    //1 根据系统中CPU核心的数量建立对应的Worker线程,
    SYSTEM_INFO sysInfo;
    GetSystemInfo(&sysInfo);
    for (int i = 0; i < (int)sysInfo.dwNumberOfProcessors; i++)
    {
        HANDLE h = CreateThread(NULL, 0, WorkerThread, completionPort, 0, NULL);
        CloseHandle(h);
    }
    cout << "创建了" << sysInfo.dwNumberOfProcessors << "个工作线程" << endl;
    SOCKET s = WSASocket(AF_INET, SOCK_STREAM, 0, NULL, 0, WSA_FLAG_OVERLAPPED);
    if (s == INVALID_SOCKET)
    {
        cout << "socket error " << WSAGetLastError() << endl;
        exit(EXIT_FAILURE);
    }
    sockaddr_in addr;
    addr.sin_addr.S_un.S_addr = inet_addr("127.0.0.1");
    addr.sin_family = AF_INET;
    addr.sin_port = htons(8000);

    int bindRet = bind(s, (sockaddr*)&addr, sizeof sockaddr);
    if (bindRet == SOCKET_ERROR)
    {
        cout << "bind error " << WSAGetLastError() << endl;
        exit(EXIT_FAILURE);
    }
    int listenRet = listen(s, 5);
    if (listenRet == SOCKET_ERROR)
    {
        cout << "listen error " << WSAGetLastError() << endl;
        exit(EXIT_FAILURE);
    }
    while (true)
    {
        // 3 一个用于监听的Socket,在指定的端口上监听连接请求
        SOCKET sClient = WSAAccept(s, NULL, NULL, NULL, NULL);
        if (sClient == INVALID_SOCKET)
        {
            cout << "accept error " << WSAGetLastError() << endl;
            continue;
        }
        char temp[64];
        sprintf_s(temp, "欢迎%d进入客户端", sClient);

        int sendRet = send(sClient, temp, strlen(temp), 0);
        if (sendRet == SOCKET_ERROR)
        {
            closesocket(sClient);
        }
        cout << sClient << "进入客户端" << endl;
        //4 将接受的套接字绑定到完成端口
        CreateIoCompletionPort((HANDLE)sClient, completionPort, (ULONG_PTR)sClient, 0);
        PMY_WSAOVERLAPPED pOver = new MY_WSAOVERLAPPED;
        //5 使用重叠IO,在套接字上投递一个或者多个WSARecv或者WSASend请求
        int ret = WSARecv(sClient, &pOver->Buffer, 1, &pOver->NumberOfBytesRecvd, &pOver->Flags, &pOver->overlap, NULL);
        if (ret == SOCKET_ERROR)
        {
            int err = WSAGetLastError();
            if (err != WSA_IO_PENDING)
            {
                cout << "wsarecv error " << WSAGetLastError() << endl;
                closesocket(sClient);
                delete pOver;
            }
        }
    }
    CloseHandle(completionPort);
    closesocket(s);
    if (WSACleanup() == SOCKET_ERROR)
    {
        cout << "wsacleanu 出错" << endl;
    }
}
DWORD WINAPI WorkerThread(LPVOID CompletionPortId)
{
    HANDLE completionPort = (HANDLE)CompletionPortId;
    DWORD dwByteTransferred;
    SOCKET sClient;
    PMY_WSAOVERLAPPED pOver = NULL;
    while (true)
    {
        //1 在Worker线程使用GetQueuedCompletionStatus函数,它让Worker线程进入不占用CPU的睡眠状态,直到完成端口上出现了需要大量处理的网络操作或者超出了等待的时间限制为止
        bool b = GetQueuedCompletionStatus(completionPort, &dwByteTransferred, (PULONG_PTR)&sClient, (LPOVERLAPPED*)&pOver, INFINITE);
        if (sClient == NULL)
            continue;
        if (b && dwByteTransferred > 0)
        {
            cout << sClient << " 说:" << pOver->Buffer.buf << endl;
            ZeroMemory(pOver->Buffer.buf, 64);
            // 2 使用重叠IO,在套接字上投递一个或者多个WSARecv或者WSASend请求
            int ret = WSARecv(sClient, &pOver->Buffer, 1, &pOver->NumberOfBytesRecvd, &pOver->Flags, &pOver->overlap, NULL);
            if (ret == SOCKET_ERROR)
            {
                int err = WSAGetLastError();
                if (err != WSA_IO_PENDING)
                {
                    closesocket(sClient);
                    delete pOver;
                    cout << "wsarecv error" << err << endl;
                }
            }
        }
        else
        {
            cout << sClient << "离开了" << endl;
            closesocket(sClient);
            delete pOver;
        }
    }
}

IOCP全称I/O Completion Port,中文译为I/O完成端口IOCP是一个异步I/O的API,它可以高效地将I/O事件通知给应用程序。与使用select()或是其它异步方法不同的是,一个套接字[socket]与一个完成端口关联了起来,然后就可继续进行正常的Winsock操作了。然而,当一个事件发生的时候,此完成端口就将被操作系统加入一个队列中。然后应用程序可以对核心层进行查询以得到此完成端口。 大体上来讲,使用完成端口只用遵循如下几个步骤: (1) 调用 CreateIoCompletionPort() 函数创建一个完成端口,而且在一般情况下,我们需要且只需要建立这一个完成端口,把它的句柄保存好,我们今后会经常用到它…… (2) 根据系统中有多少个处理器,就建立多少个工作者(为了醒目起见,下面直接说Worker)线程,这几个线程是专门用来和客户端进行通信的,目前暂时没什么工作; (3) 下面就是接收连入的Socket连接了,这里有两种实现方式:一是和别的编程模型一样,还需要启动一个独立的线程,专门用来accept客户端的连接请求;二是用性能更高更好的异步AcceptEx()请求。 (4) 每当有客户端连入的时候,我们就还是得调用CreateIoCompletionPort()函数,这里却不是新建立完成端口了,而是把新连入的Socket(也就是前面所谓的设备句柄),与目前的完成端口绑定在一起。 至此,我们其实就已经完成完成端口的相关部署工作了,嗯,是的,完事了,后面的代码里我们就可以充分享受完成端口带给我们的巨大优势,坐享其成了,是不是很简单呢? (5) 例如,客户端连入后,我们可以在这个Socket上提交一个网络请求,例如WSARecv(),然后系统就会帮咱们乖乖的去执行接收数据的操作,我们大可以放心的去干别的事情了; (6) 而此时,我们预先准备的那几个Worker线程就不能闲着了, 我们在前面建立的几个Worker就要忙活起来了,都需要分别调用GetQueuedCompletionStatus() 函数在扫描完成端口的队列里是否有网络通信的请求存在(例如读取数据,发送数据等),一旦有的话,就将这个请求从完成端口的队列中取回来,继续执行本线程中后面的处理代码,处理完毕后,我们再继续投递下一个网络通信的请求就OK了,如此循环。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
©️2022 CSDN 皮肤主题:深蓝海洋 设计师:CSDN官方博客 返回首页
评论

打赏作者

weixin_38793855

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值