学习笔记(09):C++网络编程进阶-IO模型之完成端口completion port

立即学习:https://edu.csdn.net/course/play/6082/113764?utm_source=blogtoedu

完成端口IOCP模型

一个完成端口实际上就是一个通知队列,操作系统吧已经完成的重叠IO请求通知发到队列中,完成端口会充分利用Windows最复杂的内核对象来进行IO的调度,属于异步IO,适用于CS通信模式中性能最好的网络通信模型。

完成端口IOCP模型的原理

完成端口创建几个线程,等到用户请求的时候,就把这些请求都加入到一个公共消息队列中去,然后这几个线程就排队从消息队列中取出消息并加以处理,这种方式就很优雅的实现了异步通信和负载均衡的问题,因为它提供了一种机制来使用几个线程“公平的”处理来自多个客户端的输入输出,并且线程如果没事干的时候会被系统挂起,不会占用CPU周期,这个关键的作为交换的消息队列,它就是完成端口。

使用完成端口的基本流程

1、调用CreateIoCompletionPort函数创建一个完成端口,第四个参数设为0,让完成端口上每次处理一次只允许执行的线程

2、根据系统中CPU核心的数量建立对应的Worker线程,

3、一个用于监听的Socket,在指定的端口上监听连接请求

4、将接受的套接字绑定到完成端口

5、使用重叠IO,在套接字上投递一个或者多个WSARecv或者WSASend请求

 

在新开辟的线程中

1、在Worker线程使用GetQueuedCompletionStatus函数,它让Worker线程进入不占用CPU的睡眠状态,直到完成端口上出现了需要大量处理的网络操作或者超出了等待的时间限制为止

2、使用重叠IO,在套接字上投递一个或者多个WSARecv或者WSASend请求

3、重复1~2步骤。

 

CreateIoCompletionPort函数

CreateIoCompletionPort(

HANDLE FileHandle,

HANDLE ExistingCompletionPort,

ULONG_PTR CompletionKey,

DWORD NumberOfConcurrentThreads

);

参数:

第一个参数:有效的文件句柄或者INVALID_HANDLE_VALUE

第二个参数:已经存在的完成端口,为NULL则新建一个IOCP

第三个参数:传送给处理函数的参数

第四个参数:有多个线程在访问这个消息队列,当参数WxistingCompletionPort不为0的时候,系统忽略该参数,当该参数为0表示允许同时相等数据处理器个数的线程访问该消息队列。

返回值:

成功返回一个IOCP的句柄,失败返回NULL ;

GetQueuedCompletionStatus函数

GetQueuedCompletionStatus(

HANDLE CompletionPort,

LPDWORD lpNumberOfBytesTransferred,

PULONG_PTR lpCompletionKey,

LPOVERLAPPED* lpOverlapped,

DWORD dwMilliseconds

);

参数:

第一个参数:完成端口

第二个参数:接收一个IO操作中完成的字节数

第三个参数:自定义结构体参数

第四个参数:完成IO操作时指定的重叠结构的地址

第五个参数:等待完成包出现在完成端口的毫秒数,INFINITE(一直等待)

返回值:

成功返回TRUE , 失败FALSE,调用WSAGetLastError得到扩展的错误

 

服务端代码

#include <iostream>
#include<WinSock2.h>
#include<cstdlib>
#pragma comment(lib,"ws2_32.lib")
using namespace std;
DWORD WINAPI WorkerThread(LPVOID CompletionPortId);
typedef struct _MY_WSAOVERLAPPED
{
    WSAOVERLAPPED overlap;
    WSABUF Buffer;
    DWORD NumberOfBytesRecvd;
    DWORD Flags;
    SOCKET socket;
    _MY_WSAOVERLAPPED()
    {
        Buffer.buf = new char[64]{ '\0' };
        Buffer.len = 64;
        Flags = 0;
        overlap.hEvent = NULL;
    }
    ~_MY_WSAOVERLAPPED()
    {
        delete[]Buffer.buf;
        Buffer.buf = NULL;
        Buffer.len = 0;
    }
}MY_WSAOVERLAPPED, * PMY_WSAOVERLAPPED;
int main()
{
    WSADATA wd;
    if (WSAStartup(MAKEWORD(2, 2), &wd) != 0)
    {
        cout << "wsastartup error " << WSAGetLastError() << endl;
        exit(EXIT_FAILURE);
    }
    //1 调用CreateIoCompletionPort函数创建一个完成端口,第四个参数设为0,让完成端口上每次处理一次只允许执行的线程
    HANDLE completionPort = CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, 0, 0);
    if (completionPort == NULL)
    {
        cout << "CreateIoCompletionPort " << WSAGetLastError() << endl;
        exit(EXIT_FAILURE);
    }
    //1 根据系统中CPU核心的数量建立对应的Worker线程,
    SYSTEM_INFO sysInfo;
    GetSystemInfo(&sysInfo);
    for (int i = 0; i < (int)sysInfo.dwNumberOfProcessors; i++)
    {
        HANDLE h = CreateThread(NULL, 0, WorkerThread, completionPort, 0, NULL);
        CloseHandle(h);
    }
    cout << "创建了" << sysInfo.dwNumberOfProcessors << "个工作线程" << endl;
    SOCKET s = WSASocket(AF_INET, SOCK_STREAM, 0, NULL, 0, WSA_FLAG_OVERLAPPED);
    if (s == INVALID_SOCKET)
    {
        cout << "socket error " << WSAGetLastError() << endl;
        exit(EXIT_FAILURE);
    }
    sockaddr_in addr;
    addr.sin_addr.S_un.S_addr = inet_addr("127.0.0.1");
    addr.sin_family = AF_INET;
    addr.sin_port = htons(8000);

    int bindRet = bind(s, (sockaddr*)&addr, sizeof sockaddr);
    if (bindRet == SOCKET_ERROR)
    {
        cout << "bind error " << WSAGetLastError() << endl;
        exit(EXIT_FAILURE);
    }
    int listenRet = listen(s, 5);
    if (listenRet == SOCKET_ERROR)
    {
        cout << "listen error " << WSAGetLastError() << endl;
        exit(EXIT_FAILURE);
    }
    while (true)
    {
        // 3 一个用于监听的Socket,在指定的端口上监听连接请求
        SOCKET sClient = WSAAccept(s, NULL, NULL, NULL, NULL);
        if (sClient == INVALID_SOCKET)
        {
            cout << "accept error " << WSAGetLastError() << endl;
            continue;
        }
        char temp[64];
        sprintf_s(temp, "欢迎%d进入客户端", sClient);

        int sendRet = send(sClient, temp, strlen(temp), 0);
        if (sendRet == SOCKET_ERROR)
        {
            closesocket(sClient);
        }
        cout << sClient << "进入客户端" << endl;
        //4 将接受的套接字绑定到完成端口
        CreateIoCompletionPort((HANDLE)sClient, completionPort, (ULONG_PTR)sClient, 0);
        PMY_WSAOVERLAPPED pOver = new MY_WSAOVERLAPPED;
        //5 使用重叠IO,在套接字上投递一个或者多个WSARecv或者WSASend请求
        int ret = WSARecv(sClient, &pOver->Buffer, 1, &pOver->NumberOfBytesRecvd, &pOver->Flags, &pOver->overlap, NULL);
        if (ret == SOCKET_ERROR)
        {
            int err = WSAGetLastError();
            if (err != WSA_IO_PENDING)
            {
                cout << "wsarecv error " << WSAGetLastError() << endl;
                closesocket(sClient);
                delete pOver;
            }
        }
    }
    CloseHandle(completionPort);
    closesocket(s);
    if (WSACleanup() == SOCKET_ERROR)
    {
        cout << "wsacleanu 出错" << endl;
    }
}
DWORD WINAPI WorkerThread(LPVOID CompletionPortId)
{
    HANDLE completionPort = (HANDLE)CompletionPortId;
    DWORD dwByteTransferred;
    SOCKET sClient;
    PMY_WSAOVERLAPPED pOver = NULL;
    while (true)
    {
        //1 在Worker线程使用GetQueuedCompletionStatus函数,它让Worker线程进入不占用CPU的睡眠状态,直到完成端口上出现了需要大量处理的网络操作或者超出了等待的时间限制为止
        bool b = GetQueuedCompletionStatus(completionPort, &dwByteTransferred, (PULONG_PTR)&sClient, (LPOVERLAPPED*)&pOver, INFINITE);
        if (sClient == NULL)
            continue;
        if (b && dwByteTransferred > 0)
        {
            cout << sClient << " 说:" << pOver->Buffer.buf << endl;
            ZeroMemory(pOver->Buffer.buf, 64);
            // 2 使用重叠IO,在套接字上投递一个或者多个WSARecv或者WSASend请求
            int ret = WSARecv(sClient, &pOver->Buffer, 1, &pOver->NumberOfBytesRecvd, &pOver->Flags, &pOver->overlap, NULL);
            if (ret == SOCKET_ERROR)
            {
                int err = WSAGetLastError();
                if (err != WSA_IO_PENDING)
                {
                    closesocket(sClient);
                    delete pOver;
                    cout << "wsarecv error" << err << endl;
                }
            }
        }
        else
        {
            cout << sClient << "离开了" << endl;
            closesocket(sClient);
            delete pOver;
        }
    }
}

相关推荐
<p> 需要学习Windows系统YOLOv4的同学请前往《Windows版YOLOv4目标检测实战:原理与源码解析》, </p> <p> 课程链接 https://edu.csdn.net/course/detail/29865 </p> <h3> <span style="color:#3598db;">【为什么要学习这门课】</span> </h3> <p> <span>Linux</span>创始人<span>Linus Torvalds</span>有一句名言:<span>Talk is cheap. Show me the code. </span><strong><span style="color:#ba372a;">冗谈不够,放码过来!</span></strong> </p> <p> <span> </span>代码阅读是从基础到提高的必由之路。尤其对深度学习,许多框架隐藏了神经网络底层的实现,只能在上层调包使用,对其内部原理很难认识清晰,不利于进一步优化和创新。 </p> <p> YOLOv4是最近推出的基于深度学习的端到端实时目标检测方法。 </p> <p> YOLOv4的实现darknet是使用C语言开发的轻型开源深度学习框架,依赖少,可移植性好,可以作为很好的代码阅读案例,让我们深入探究其实现原理。 </p> <h3> <span style="color:#3598db;">【课程内容与收获】</span> </h3> <p> 本课程将解析YOLOv4的实现原理和源码,具体内容包括: </p> <p> - YOLOv4目标检测原理<br /> - 神经网络及darknet的C语言实现,尤其是反向传播的梯度求解和误差计算<br /> - 代码阅读工具及方法<br /> - 深度学习计算的利器:BLAS和GEMM<br /> - GPU的CUDA编程方法及在darknet的应用<br /> - YOLOv4的程序流程 </p> <p> - YOLOv4各层及关键技术的源码解析 </p> <p> 本课程将提供注释后的darknet的源码程序文件。 </p> <h3> <strong><span style="color:#3598db;">【相关课程】</span></strong> </h3> <p> 除本课程《YOLOv4目标检测:原理与源码解析》外,本人推出了有关YOLOv4目标检测的系列课程,包括: </p> <p> 《YOLOv4目标检测实战:训练自己的数据集》 </p> <p> 《YOLOv4-tiny目标检测实战:训练自己的数据集》 </p> <p> 《YOLOv4目标检测实战:人脸口罩佩戴检测》<br /> 《YOLOv4目标检测实战:中国交通标志识别》 </p> <p> 建议先学习一门YOLOv4实战课程,对YOLOv4的使用方法了解以后再学习本课程。 </p> <h3> <span style="color:#3598db;">【YOLOv4网络模型架构图】</span> </h3> <p> 下图由白勇老师绘制 </p> <p> <img alt="" src="https://img-bss.csdnimg.cn/202006291526195469.jpg" /> </p> <p>   </p> <p> <img alt="" src="https://img-bss.csdnimg.cn/202007011518185782.jpg" /> </p>
<p> 欢迎参加英特尔® OpenVINO™工具套件初级课程 !本课程面向零基础学员,将从AI的基本概念开始,介绍人工智能与视觉应用的相关知识,并且帮助您快速理解英特尔® OpenVINO™工具套件的基本概念以及应用场景。整个课程包含了视频的处理,深度学习的相关知识,人工智能应用的推理加速,以及英特尔® OpenVINO™工具套件的Demo演示。通过本课程的学习,将帮助您快速上手计算机视觉的基本知识和英特尔® OpenVINO™ 工具套件的相关概念。 </p> <p> 为保证您顺利收听课程参与测试获取证书,还请您于<strong>电脑端</strong>进行课程收听学习! </p> <p> 为了便于您更好的学习本次课程,推荐您免费<strong>下载英特尔® OpenVINO™工具套件</strong>,下载地址:https://t.csdnimg.cn/yOf5 </p> <p> 收听课程并完成章节测试,可获得本课程<strong>专属定制证书</strong>,还可参与<strong>福利抽奖</strong>,活动详情:https://bss.csdn.net/m/topic/intel_openvino </p> <p> 8月1日-9月30日,学习完成【初级课程】的小伙伴,可以<span style="color:#FF0000;"><strong>免费学习【中级课程】</strong></span>,中级课程免费学习优惠券将在学完初级课程后的7个工作日内发送至您的账户,您可以在:<a href="https://i.csdn.net/#/wallet/coupon">https://i.csdn.net/#/wallet/coupon</a>查询优惠券情况,请大家报名初级课程后尽快学习哦~ </p> <p> <span style="font-size:12px;">请注意:点击报名即表示您确认您已年满18周岁,并且同意CSDN基于商务需求收集并使用您的个人信息,用于注册OpenVINO™工具套件及其课程。CSDN和英特尔会为您定制最新的科学技术和行业信息,将通过邮件或者短信的形式推送给您,您也可以随时取消订阅不再从CSDN或Intel接收此类信息。 查看更多详细信息请点击CSDN“<a href="https://passport.csdn.net/service">用户服务协议</a>”,英特尔“<a href="https://www.intel.cn/content/www/cn/zh/privacy/intel-privacy-notice.html?_ga=2.83783126.1562103805.1560759984-1414337906.1552367839&elq_cid=1761146&erpm_id=7141654/privacy/us/en/">隐私声明</a>”和“<a href="https://www.intel.cn/content/www/cn/zh/legal/terms-of-use.html?_ga=2.84823001.1188745750.1560759986-1414337906.1552367839&elq_cid=1761146&erpm_id=7141654/privacy/us/en/">使用条款</a>”。</span> </p> <p> <br /> </p>
©️2020 CSDN 皮肤主题: 深蓝海洋 设计师:CSDN官方博客 返回首页