网络编程04
作者介绍
张伟伟,男,西安工程大学电子信息学院,2019级硕士研究生,张宏伟人工智能课题组。
微信公众号:可随时查阅,搜索—张二牛的笔记,内容会分类上传。
研究方向:机器视觉与人工智能。
电子邮件:zhangweiweicpp@163.com
- 课题组CSDN官方账号,欢迎一键三连: https://blog.csdn.net/m0_37758063/article/details/113527955?spm=1001.2014.3001.5501.
学习目标:
1.了解poll函数
2 .熟练使用epoll多路IO模型
3.了解epoll ET/LT触发模式并实现
4 .理解epoll边缘非阻塞模式并实现
5.了解epoll反应堆模型设计思想
6 .能看懂epoll反应堆模型的实现代码
1.poll函数
int poll(struct pollfd *fds, nfds_t nfds, int timeout);
函数说明: 跟select类似, 监控多路IO, 但poll不能跨平台.
参数说明:
fds: 传入传出参数, 实际上是一个结构体数组,如:
struct pollfd
{
int fd; /* file descriptor */ 监控的文件描述符
short events; /* requested events */ 要监控的事件---不会被修改
short revents; /* returned events */ 返回发生变化的事件 ---
fds.fd: 要监控的文件描述符
fds.events:
POLLIN---->读事件
POLLOUT---->写事件
fds.revents: 返回的事件
nfds: 数组实际有效内容的个数
timeout: 超时时间, 单位是毫秒.
-1:永久阻塞, 直到监控的事件发生
0: 不管是否有事件发生, 立刻返回
>0: 直到监控的事件发生或者超时
返回值:
成功:返回就绪事件的个数
失败: 返回-1
若timeout=0, poll函数不阻塞,且没有事件发生, 此时返回-1, 并且errno=EAGAIN, 这种情况不应视为错误.由内核返回
};
说明:
1 当poll函数返回的时候, 结构体当中的fd和events没有发生变化, 究竟有没有事件发生由revents来判断, 所以poll是请求和返回分离.
2 struct pollfd结构体中的fd成员若赋值为-1, 则poll不会监控.
3 相对于select, poll没有本质上的改变; 但是poll可以突破1024的限制.
在/proc/sys/fs/file-max查看一个进程可以打开的socket描述符上限.
如果需要可以修改配置文件: /etc/security/limits.conf
加入如下配置信息, 然后重启终端即可生效.
* soft nofile 1024
* hard nofile 100000
soft和hard分别表示ulimit命令可以修改的最小限制和最大限制
2.使用poll模型开发服务端流程:
{
1 创建socket, 得到监听文件描述符lfd----socket()
2 设置端口复用----setsockopt()
3 绑定----bind()
4 监听----listen()
5 struct pollfd client[1024];
client[0].fd = lfd;
client[0].events = POLLIN;
int maxi = 0;
for(i=1; i<1024; i++)
{
client[i].fd = -1;
}
while(1)
{
nready = poll(client, maxi+1, -1);
//异常情况
if(nready<0)
{
if(errno==EINTR) // 被信号中断
{
continue;
}
break;
}
//有客户端连接请求到来
if(client[0].revents==POLLIN)
{
//接受新的客户端连接
cfd = accept(lfd, NULL, NULL);
//寻找在client数组中可用位置
for(i=0; i<1024; i++)
{
if(client[i].fd==-1)
{
client[i].fd = cfd;
client[i].events = POLLIN;
break;
}
}
//客户端连接数达到最大值
if(i==1024)
{
close(cfd);
continue;
}
//修改client数组下标最大值
if(maxi<i)
{
maxi = i;
}
if(--nready==0)
{
continue;
}
}
//下面是有客户端发送数据的情况
for(i=1; i<=maxi; i++)
{
sockfd = client[i].fd;
//如果client数组中fd为-1, 表示已经不再让你内核监控了, 已经close了
if(client[i].fd==-1)
{
continue;
}
if(client[i].revents==POLLIN)
{
//read 数据
n = read(sockfd, buf, sizeof(buf));
if(n<=0)
{
close(sockfd);
client[i].fd = -1;
}
else
{
//发送数据给客户端
write(sockfd, buf, n);
}
if(--nready==0)
{
break;
}
}
}
}
close(lfd);
}
3.使用poll开发服务端代码实现
//IO多路复用技术poll函数的使用
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <unistd.h>
#include <sys/types.h>
#include <errno.h>
#include <arpa/inet.h>
#include <netinet/in.h>
#include <poll.h>
#include "wrap.h"
int main()
{
int i;
int n;
int lfd;
int cfd;
int ret;
int nready;
int maxfd;
char buf[1024];
socklen_t len;
int sockfd;
fd_set tmpfds, rdfds;
struct sockaddr_in svraddr, cliaddr;
//创建socket
lfd = Socket(AF_INET, SOCK_STREAM, 0);
//允许端口复用
int opt = 1;
setsockopt(lfd, SOL_SOCKET, SO_REUSEADDR, &opt, sizeof(int));
//绑定bind
svraddr.sin_family = AF_INET;
svraddr.sin_addr.s_addr = htonl(INADDR_ANY);
svraddr.sin_port = htons(8888);
ret = Bind(lfd, (struct sockaddr *)&svraddr, sizeof(struct sockaddr_in));
//监听listen
ret = Listen(lfd, 128);
struct pollfd client[1024];
for(i=0; i<1024; i++)
{
client[i].fd = -1;
}
//将监听文件描述符委托给内核监控----监控读事件
client[0].fd = lfd;
client[0].events = POLLIN;
maxfd = 0; //maxfd表示内核监控的范围
while(1)
{
nready = poll(client, maxfd+1, -1);
if(nready<0)
{
perror("poll error");
exit(1);
}
//有客户端连接请求
if(client[0].fd==lfd && (client[0].revents & POLLIN))
{
cfd = Accept(lfd, NULL, NULL);
//寻找client数组中的可用位置
for(i=1; i<1024; i++)
{
if(client[i].fd==-1)
{
client[i].fd = cfd;
client[i].events = POLLIN;
break;
}
}
//若没有可用位置, 则关闭连接,拒绝服务
if(i==1024)
{
Close(cfd);
continue;
}
if(maxfd<i)
{
maxfd = i;
}
//只有1个连接到来,不发数据,不用往下走了
if(--nready==0)
{
continue;
}
}
//下面是有数据到来的情况
for(i=1; i<=maxfd; i++)
{
//若fd为-1, 表示连接已经关闭或者没有连接
if(client[i].fd==-1)
{
continue;
}
if(client[i].revents==POLLIN) //要加,判断有了再发,防止阻塞
{
sockfd = client[i].fd; //给出当前的通信文件描述符
memset(buf, 0x00, sizeof(buf));
n = Read(sockfd, buf, sizeof(buf));
if(n<=0)
{
printf("read error or client closed,n==[%d]\n", n);
Close(sockfd);
client[i].fd = -1; //fd为-1,表示不再让内核监控
}
else
{
printf("read over,n==[%d],buf==[%s]\n", n, buf);
write(sockfd, buf, n);
}
if(--nready==0)
{
break;
}
}
}
}
Close(lfd);
return 0;
}
3.epoll的一些函数的学习
将检测文件描述符的变化委托给内核去处理, 然后内核将发生变化的文件描述符对应的事件返回给应用程序.
函数介绍:
int epoll_create(int size);
函数说明: 创建一个树根
参数说明:
size: 最大节点数, 此参数在linux 2.6.8已被忽略, 但必须传递一个大于0的数.
返回值:
成功: 返回一个大于0的文件描述符, 代表整个树的树根.
失败: 返回-1, 并设置errno值.
int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);
函数说明: 将要监听的节点在epoll树上添加, 删除和修改
参数说明:
epfd: epoll树根
op:
EPOLL_CTL_ADD: 添加事件节点到树上
EPOLL_CTL_DEL: 从树上删除事件节点
EPOLL_CTL_MOD: 修改树上对应的事件节点
fd: 事件节点对应的文件描述符
event: 要操作的事件节点
typedef union epoll_data {
void *ptr;
int fd;
uint32_t u32;
uint64_t u64;
} epoll_data_t;
struct epoll_event {
uint32_t events; /* Epoll events */
epoll_data_t data; /* User data variable */
};
event.events常用的有:
EPOLLIN: 读事件
EPOLLOUT: 写事件
EPOLLERR: 错误事件
EPOLLET: 边缘触发模式
event.fd: 要监控的事件对应的文件描述符
int epoll_wait(int epfd, struct epoll_event *events, int maxevents, int timeout);
函数说明:等待内核返回事件发生
参数说明:
epfd: epoll树根
events: 传出参数, 其实是一个事件结构体数组
maxevents: 数组大小
timeout:
-1: 表示永久阻塞
0: 立即返回
>0: 表示超时等待事件
返回值:
成功: 返回发生事件的个数
失败: 若timeout=0, 没有事件发生则返回; 返回-1, 设置errno值,
epoll_wait的events是一个传出参数, 调用epoll_ctl传递给内核什么值, 当epoll_wait返回的时候, 内核就传回什么值,不会对struct event的结构体变量的值做任何修改.
4.使用epoll开发服务端的思想(Linux)
#include<sys/epoll.h>
使用epoll模型开发服务器流程:
{
1 创建socket, 得到监听文件描述符lfd----socket()
2 设置端口复用----setsockopt()
3 绑定----bind()
4 监听----listen()
5 创建一棵epoll树
int epfd = epoll_create();
//将监听文件描述符上树
struct epoll_event ev;
ev.evetns = EPOLLIN; //可读事件
ev.data.fd = lfd;
epoll_ctl(epfd, EPOLL_CTL_ADD, lfd, &ev);
struct epoll_event events[1024];
while(1)
{
nready = epoll_wait(epfd, events, 1024, -1);
if(nready<0)
{
if(errno==EINTR)//被信号中断
{
continue;
}
break;
}
for(i=0; i<nready; i++)
{
sockfd = events[i].data.fd;
//有客户端连接请求到来
if(sockfd==lfd)
{
cfd = accept(lfd, NULL, NULL);
//将cfd对应的读事件上epoll树
ev.data.fd = cfd;
ev.evetns = EPOLLIN;
epoll_ctl(epfd, EPOLL_CTL_ADD, cfd, &ev);
continue;
}
//有客户端发送数据过来
n = Read(sockfd, buf, sizeof(buf));
if(n<=0)
{
close(sockfd);
//将sockfd对应的事件节点从epoll树上删除
epoll_ctl(epfd, EPOLL_CTL_DEL, sockfd, NULL);
perror("read error or client closed");
continue;
}
else
{
write(sockfd, buf, n);
}
}
}
Close(epfd);
close(lfd);
return 0;
}
epoll的LT和ET模式:
1 epoll默认情况下是LT模式, 在这种模式下, 若读数据一次性没有读完,
缓冲区中还有可读数据, 则epoll_wait还会再次通知
2 若将epoll设置为ET模式, 若读数据的时候一次性没有读完, 则epoll_wait不再通知,
直到下次有新的数据发来.
思考:
1 在ET模式下, 如何在epoll_wait返回一次的情况下读完数据?
循环读数据, 直到读完数据, 但是读完数据之后会阻塞.
2 若能够一次性读完还需要设置什么?
将通信文件描述符设置为非阻塞模式
5.使用epoll开发服务端的代码
//EPOLL模型测试
#include "wrap.h"
#include <sys/epoll.h>
#include <ctype.h>
int main()
{
int ret;
int n;
int i;
int k;
int nready;
int lfd;
int cfd;
int sockfd;
char buf[1024];
socklen_t socklen;
struct sockaddr_in svraddr;
struct epoll_event ev;
struct epoll_event events[1024];
//创建socket
lfd = Socket(AF_INET, SOCK_STREAM, 0);
//设置文件描述符为端口复用
int opt = 1;
setsockopt(lfd, SOL_SOCKET, SO_REUSEADDR, &opt, sizeof(int));
//绑定bind
svraddr.sin_family = AF_INET;
svraddr.sin_addr.s_addr = htonl(INADDR_ANY);
svraddr.sin_port = htons(8888);
Bind(lfd, (struct sockaddr *)&svraddr, sizeof(struct sockaddr_in));
//监听listen
Listen(lfd, 128);
//创建一棵epoll树
int epfd = epoll_create(1024);
if(epfd<0)
{
perror("create epoll error");
return -1;
}
//将lfd上epoll树
ev.data.fd = lfd;
ev.events = EPOLLIN;
epoll_ctl(epfd, EPOLL_CTL_ADD, lfd, &ev);
while(1)
{
nready = epoll_wait(epfd, events, 1024, -1);
if(nready<0)
{
perror("epoll_wait error");
if(errno==EINTR)
{
continue;
}
break;
}
for(i=0; i<nready; i++)
{
//有客户端连接请求
sockfd = events[i].data.fd;
if(sockfd==lfd)
{
cfd = Accept(lfd, NULL, NULL);
//将新的cfd上epoll树
ev.data.fd = cfd;
ev.events = EPOLLIN;
epoll_ctl(epfd, EPOLL_CTL_ADD, cfd, &ev);
continue;
}
//有客户端发送数据过来
memset(buf, 0x00, sizeof(buf));
//n = Read(sockfd, buf, sizeof(buf));
n = recv(sockfd, buf, sizeof(buf), 0);
if(n<=0)
{
printf("n==[%d], buf==[%s]\n", n, buf);
close(sockfd);
//将sockfd对应的事件就节点从epoll树上删除
epoll_ctl(epfd, EPOLL_CTL_DEL, sockfd, NULL);
}
else
{
printf("n==[%d], buf==[%s]\n", n, buf);
for(k=0; k<n; k++)
{
buf[k] = toupper(buf[k]);
}
//Write(sockfd, buf, n);
send(sockfd, buf, n, 0);
}
}
}
close(epfd);
close(lfd);
return 0;
}
6. epoll的两种工作模式,分为ET和LT模式
epoll的两种模式ET和LT模式
- 水平触发: 高电平代表1
只要缓冲区中有数据, 就一直通知 - 边缘触发: 电平有变化就代表1
缓冲区中有数据只会通知一次, 之后再有数据才会通知.(若是读数据的时候没有读完, 则剩余的数据不会再通知, 直到有新的数据到来)
边缘非阻塞模式: 提高效率
7.epoll反应堆(视频10-14需要复习)
epoll反应堆:有事情发生,一连串事情会发生。
树上有文件描述符,事件和回调函数
// epoll基于非阻塞I/O事件驱动
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <sys/types.h>
#include <unistd.h>
#include <arpa/inet.h>
#include <netinet/in.h>
#include <sys/epoll.h>
#include <fcntl.h>
#include <errno.h>
#include <time.h>
#include <ctype.h>
#include "wrap.h"
#define MAX_EVENTS 1024 //监听上限数
#define BUFLEN 4096
void recvdata(int fd, int events, void *arg);
void senddata(int fd, int events, void *arg);
/* 描述就绪文件描述符相关信息 */
struct myevent_s {
int fd; //要监听的文件描述符
int events; //对应的监听事件
void *arg; //泛型参数
void (*call_back)(int fd, int events, void *arg); //回调函数
int status; //是否在监听:1->在红黑树上(监听), 0->不在(不监听)
char buf[BUFLEN];
int len;
long last_active; //记录每次加入红黑树 g_efd 的时间值
};
int g_efd; //全局变量, 保存epoll_create返回的文件描述符
int g_lfd; //全局变量, 保存监听的文件描述符
struct myevent_s g_events[MAX_EVENTS+1]; //自定义结构体类型数组. +1-->listen fd
/*将结构体 myevent_s 成员变量 初始化*/
void eventset(struct myevent_s *ev, int fd, void (*call_back)(int, int, void *), void *arg)
{
ev->fd = fd;
ev->call_back = call_back;
ev->events = 0;
ev->arg = arg;
ev->status = 0;
//memset(ev->buf, 0, sizeof(ev->buf));
//ev->len = 0;
ev->last_active = time(NULL); //调用eventset函数的时间 unix时间戳
return;
}
/* 向 epoll监听的红黑树 添加一个 文件描述符 */
void eventadd(int efd, int events, struct myevent_s *ev)
{
struct epoll_event epv = {0, {0}};
int op;
epv.data.ptr = ev;
epv.events = ev->events = events; //EPOLLIN 或 EPOLLOUT
if(ev->status == 1)
{ //已经在红黑树 g_efd 里
op = EPOLL_CTL_MOD; //修改其属性
}
else
{ //不在红黑树里
op = EPOLL_CTL_ADD; //将其加入红黑树 g_efd, 并将status置1
ev->status = 1;
}
if (epoll_ctl(efd, op, ev->fd, &epv) < 0) //实际添加/修改
{
printf("event add failed [fd=%d], events[%d]\n", ev->fd, events);
}
else
{
printf("event add OK [fd=%d], op=%d, events[%0X]\n", ev->fd, op, events);
}
return ;
}
/* 从epoll 监听的 红黑树中删除一个 文件描述符*/
void eventdel(int efd, struct myevent_s *ev)
{
struct epoll_event epv = {0, {0}};
if (ev->status != 1) //不在红黑树上
return ;
epv.data.ptr = ev;
ev->status = 0; //修改状态
epoll_ctl(efd, EPOLL_CTL_DEL, ev->fd, &epv); //从红黑树 efd 上将 ev->fd 摘除
return ;
}
/* 当有文件描述符就绪, epoll返回, 调用该函数 与客户端建立链接 */
// 回调函数 - 监听的文件描述符发送读事件时被调用
void acceptconn(int lfd, int events, void *arg)
{
struct sockaddr_in cin;
socklen_t len = sizeof(cin);
int cfd, i;
cfd = Accept(lfd, (struct sockaddr *)&cin, &len);
//使用do while(0)的目的是为了避免使用goto语句
do
{
for (i = 0; i < MAX_EVENTS; i++) //从全局数组g_events中找一个空闲元素
{
if (g_events[i].status == 0) //类似于select中找值为-1的元素
{
break; //找到第一个能用的 //跳出 for
}
}
if (i == MAX_EVENTS)
{
printf("%s: max connect limit[%d]\n", __func__, MAX_EVENTS);
break; //避免goto, 跳出do while(0) 不执行后续代码
}
//将cfd设置为非阻塞
int flags = 0;
flags = fcntl(cfd, F_GETFL, 0);
flags |= O_NONBLOCK;
if ((flags = fcntl(cfd, F_SETFL, flags)) < 0)
{
printf("%s: fcntl nonblocking failed, %s\n", __func__, strerror(errno));
break;//避免goto
}
/* 给cfd设置一个 myevent_s 结构体, 回调函数 设置为 recvdata */
eventset(&g_events[i], cfd, recvdata, &g_events[i]);
//将cfd添加到红黑树g_efd中,监听读事件
eventadd(g_efd, EPOLLIN, &g_events[i]);
}while(0);
printf("new connect [%s:%d][time:%ld], pos[%d]\n",
inet_ntoa(cin.sin_addr), ntohs(cin.sin_port), g_events[i].last_active, i);
return ;
}
// 回调函数 - 通信的文件描述符发生读事件时候被调用
void recvdata(int fd, int events, void *arg)
{
int len;
struct myevent_s *ev = (struct myevent_s *)arg;
//读取客户端发来的数据
memset(ev->buf, 0x00, sizeof(ev->buf));
len = Read(fd, ev->buf, sizeof(ev->buf));//读文件描述符, 数据存入myevent_s成员buf中
eventdel(g_efd, ev); //将该节点从红黑树上摘除
if (len > 0)
{
ev->len = len;
ev->buf[len] = '\0'; //手动添加字符串结束标记
printf("C[%d]:%s\n", fd, ev->buf);
eventset(ev, fd, senddata, ev); //设置该 fd 对应的回调函数为 senddata
eventadd(g_efd, EPOLLOUT, ev); //将fd加入红黑树g_efd中,监听其写事件
}
else if (len == 0)
{
Close(ev->fd);
/* ev-g_events 地址相减得到偏移元素位置 */
printf("[fd=%d] pos[%ld], closed\n", fd, ev-g_events);
}
else
{
Close(ev->fd);
printf("read [fd=%d] error[%d]:%s\n", fd, errno, strerror(errno));
}
return;
}
// 回调函数 - 通信的文件描述符发生写事件时候被调用
void senddata(int fd, int events, void *arg)
{
int len;
struct myevent_s *ev = (struct myevent_s *)arg;
//将小写转换为大写发送给客户端
int i=0;
for(i=0; i<ev->len; i++)
{
ev->buf[i] = toupper(ev->buf[i]);
}
//发送数据给客户端
len = Write(fd, ev->buf, ev->len);
if (len > 0)
{
printf("send[fd=%d]-->[%d]:[%s]\n", fd, len, ev->buf);
eventdel(g_efd, ev); //从红黑树g_efd中移除
eventset(ev, fd, recvdata, ev); //将该fd的 回调函数改为 recvdata
eventadd(g_efd, EPOLLIN, ev); //从新添加到红黑树上, 设为监听读事件
}
else
{
Close(ev->fd); //关闭链接
eventdel(g_efd, ev); //从红黑树g_efd中移除
printf("send[fd=%d] error %s\n", fd, strerror(errno));
}
return;
}
/*创建 socket, 初始化lfd */
void initlistensocket()
{
//创建socket
g_lfd = Socket(AF_INET, SOCK_STREAM, 0);
//对事件结构体赋值
/* void eventset(struct myevent_s *ev, int fd, void (*call_back)(int, int, void *), void *arg); */
eventset(&g_events[MAX_EVENTS], g_lfd, acceptconn, &g_events[MAX_EVENTS]);//仅仅是对g_events[MAX_EVENTS]进行设置
//将监听文件描述符上树
eventadd(g_efd, EPOLLIN, &g_events[MAX_EVENTS]);
//绑定
struct sockaddr_in servaddr;
memset(&servaddr, 0, sizeof(servaddr));
servaddr.sin_family = AF_INET;
servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
servaddr.sin_port = htons(8888);
Bind(g_lfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
Listen(g_lfd, 20);
return;
}
int main(int argc, char *argv[])
{
g_efd = epoll_create(MAX_EVENTS+1); //创建红黑树,返回给全局 g_efd
if(g_efd<0)
{
perror("create epoll error");
return -1;
}
//socket-bind-listen-将监听文件描述符上树
initlistensocket();
struct epoll_event events[MAX_EVENTS+1]; //保存已经满足就绪事件的文件描述符数组
int checkpos = 0, i;
while (1)
{
/* 超时验证,每次测试100个链接,不测试listenfd 当客户端60秒内没有和服务器通信,则关闭此客户端链接 */
long now = time(NULL); //当前时间
//一次循环检测100个。 使用checkpos控制检测对象
for (i = 0; i < 100; i++, checkpos++)
{
if (checkpos == MAX_EVENTS)
{
checkpos = 0;
}
if (g_events[checkpos].status != 1) //不在红黑树 g_efd 上
{
continue;
}
long duration = now - g_events[checkpos].last_active; //客户端不活跃的世间
if (duration >= 60)
{
Close(g_events[checkpos].fd); //关闭与该客户端链接
printf("[fd=%d] timeout\n", g_events[checkpos].fd);
eventdel(g_efd, &g_events[checkpos]); //将该客户端 从红黑树 g_efd移除
}
}
/*监听红黑树g_efd, 将满足的事件的文件描述符加至events数组中, 1秒没有事件满足, 返回 0*/
int nfd = epoll_wait(g_efd, events, MAX_EVENTS+1, 1000);
if (nfd < 0)
{
printf("epoll_wait error, exit\n");
break;
}
for (i = 0; i < nfd; i++)
{
/*使用自定义结构体myevent_s类型指针,接收联合体data的void *ptr成员*/
struct myevent_s *ev = (struct myevent_s *)events[i].data.ptr;
//读就绪事件
if ((events[i].events & EPOLLIN) && (ev->events & EPOLLIN))
{
//ev->call_back(ev->fd, events[i].events, ev->arg);
ev->call_back(ev->fd, events[i].events, ev);
}
//写就绪事件
if ((events[i].events & EPOLLOUT) && (ev->events & EPOLLOUT))
{
//ev->call_back(ev->fd, events[i].events, ev->arg);
ev->call_back(ev->fd, events[i].events, ev);
}
}
}
/*关闭文件描述符 */
Close(g_efd);
Close(g_lfd);
return 0;
}