一、介绍
二、详解
epoll的接口非常简单,一共就三个函数:
1. int epoll_create(int size);
2. int epoll_ctl(int epfd, int op, int fd, struct
struct epoll_event { __uint32_t events; epoll_data_t data; }; typedef union epoll_data { void *ptr; int fd; __uint32_t u32; __uint64_t u64; } epoll_data_t;
3. int epoll_wait(int epfd, struct epoll_event *events, int maxevents, int timeout);
4.
Edge Triggered (ET) 边缘触发 只有数据到来,才触发,不管缓存区中是否还有数据。
Level Triggered (LT) 水平触发 只要有数据都会触发。
假如有这样一个例子:
1. 我们已经把一个用来从管道中读取数据的文件句柄(RFD)添加到epoll描述符
2. 这个时候从管道的另一端被写入了2KB的数据
3. 调用epoll_wait(2),并且它会返回RFD,说明它已经准备好读取操作
4. 然后我们读取了1KB的数据
5. 调用epoll_wait(2)......
Edge Triggered 工作模式:
如果我们在第1步将RFD添加到epoll描述符的时候使用了EPOLLET标志,那么在第5步调用epoll_wait(2)之后将有可能会挂起,因为剩余的数据还存在于文件的输入缓冲区内,而且数据发出端还在等待一个针对已经发出数据的反馈信息。只有在监视的文件句柄上发生了某个事件的时候 ET 工作模式才会汇报事件。因此在第5步的时候,调用者可能会放弃等待仍在存在于文件输入缓冲区内的剩余数据。在上面的例子中,会有一个事件产生在RFD句柄上,因为在第2步执行了一个写操作,然后,事件将会在第3步被销毁。因为第4 步的读取操作没有读空文件输入缓冲区内的数据,因此我们在第5 步调用epoll_wait(2)完成后,是否挂起是不确定的。epoll工作在ET模式的时候,必须使用非阻塞套接口,以避免由于一个文件句柄的阻塞读/阻塞写操作把处理多个文件描述符的任务饿死。最好以下面的方式调用ET模式的epoll接口,在后面会介绍避免可能的缺陷。
i 基于非阻塞文件句柄
ii 只有当read(2)或者write(2)返回EAGAIN时才需要挂起,等待。但这并不是说每次read()时都需要循环读,直到读到产生一个EAGAIN 才认为此次事件处理完成,当read()返回的读到的数据长度小于请求的数据长度时,就可以确定此时缓冲中已没有数据了,也就可以认为此事读事件已处理完成。Level Triggered 工作模式相反的,以LT方式调用epoll接口的时候,它就相当于一个速度比较快的poll(2),并且无论后面的数据是否被使用,因此他们具有同样的职能。因为即使使用ET模式的epoll,在收到多个chunk 的数据的时候仍然会产生多个事件。调用者可以设定EPOLLONESHOT标志,在 epoll_wait(2)收到事件后epoll会与事件关联的文件句柄从epoll描述符中禁止掉。因此当EPOLLONESHOT设定后,使用带有 EPOLL_CTL_MOD标志的epoll_ctl(2)处理文件句柄就成为调用者必须作的事情。
然后详细解释ET, LT:
LT(level triggered)是缺省的工作方式,并且同时支持block 和no-blocksocket.在这种做法中,内核告诉你一个文件描述符是否就绪了,然后你可以对这个就绪的fd进行IO操作。如果你不作任何操作,内核还是会继续通知你的,所以,这种模式编程出错误可能性要小一点。传统的select/poll都是这种模型的代表.
ET(edge-triggered)是高速工作方式,只支持no-block socket。在这种模式下,当描述符从未就绪变为就绪时,内核通过epoll告诉你。然后它会假设你知道文件描述符已经就绪,并且不会再为那个文件描述符发送更多的就绪通知,直到你做了某些操作导致那个文件描述符不再为就绪状态了(比如,你在发送,接收或者接收请求,或者发送接收的数据少于一定量时导致了一个EWOULDBLOCK 错误)。但是请注意,如果一直不对这个fd作IO操作(从而导致它再次变成未就绪),内核不会发送更多的通知(only once),不过在TCP协议中,ET模式的加速效用仍需要更多的benchmark确认(这句话不理解)。
在许多测试中我们会看到如果没有大量的idle -connection 或者deadconnection,epoll 的效率并不会比select/poll 高很多,但是当我们遇到大量的idleconnection(例如WAN 环境中存在大量的慢速连接),就会发现epoll 的效率大大高于select/poll。(未测试)
另外,当使用epoll的ET模型来工作时,当产生了一个EPOLLIN事件后,读数据的时候需要考虑的是当recv()返回的大小如果等于请求的大小,那么很有可能是缓冲区还有数据未读完,也意味着该次事件还没有处理完,所以还需要再次读取:
while(rs) { buflen = recv(activeevents[i].data.fd, buf, sizeof(buf), 0); if(buflen < 0) { // 由于是非阻塞的模式,所以当errno为EAGAIN时,表示当前缓冲区已无数据可读 // 在这里就当作是该次事件已处理处. if(errno == EAGAIN) { break; } else { return; } } else if(buflen == 0) { // 这里表示对端的socket已正常关闭. } if(buflen == sizeof(buf)) { rs = 1; // 需要再次读取 } else { rs = 0; } }
还有,假如发送端流量大于接收端的流量(意思是epoll所在的程序读比转发的socket要快),由于是非阻塞的socket,那么send()函数虽然返回,但实际缓冲区的数据并未真正发给接收端,这样不断的读和发,当缓冲区满后会产生EAGAIN错误(参考man send),同时,不理会这次请求发送的数据.所以,需要封装socket_send()的函数用来处理这种情况,该函数会尽量将数据写完再返回,返回-1 表示出错。在socket_send()内部,当写缓冲已满(send()返回-1,且errno为EAGAIN),那么会等待后再重试.这种方式并不很完美,在理论上可能会长时间的阻塞在socket_send()内部,但暂没有更好的办法.
ssize_t socket_send(int sockfd, const char* buffer, size_t buflen) { ssize_t tmp; size_t total = buflen; const char *p = buffer; while(1) { tmp = send(sockfd, p, total, 0); if(tmp < 0) { // 当send收到信号时,可以继续写,但这里返回-1. if(errno == EINTR) return -1; // 当socket是非阻塞时,如返回此错误,表示写缓冲队列已满, // 在这里做延时后再重试. if(errno == EAGAIN) { usleep(1000); continue; } return -1; } if((size_t)tmp == total) return buflen; total -= tmp; p += tmp; } return tmp; }
三、demo
1.测试环境
centos release 5.5,
2.编译命令
g++ myepoll.cpp lxx_net.cc -g -o myepoll
3.源代码
#include #include #include in.h> #include #include #include #include #include #include #include "lxx_net.h" using namespace std; #define MAX_EPOLL_SIZE 500 #define MAX_CLIENT_SIZE 500 #define MAX_IP_LEN 16 #define MAX_CLIENT_BUFF_LEN 1024 #define QUEUE_LEN 500 #define BUFF_LEN 1024 int fd_epoll = -1; int fd_listen = -1; // 客服端连接 typedef struct { int fd; // 连接句柄 char host[MAX_IP_LEN]; // IP地址 int port; // 端口 int len; // 缓冲区数据大小 char buff[MAX_CLIENT_BUFF_LEN]; // 缓冲数据 bool status; // 状态 } client_t; client_t *ptr_cli = NULL; // 加入epoll中 int epoll_add(int fd_epoll, int fd, struct epoll_event *ev) { if (fd_epoll < 0 || fd < 0 || ev == NULL) { return -1; } if (epoll_ctl(fd_epoll, EPOLL_CTL_ADD, fd, ev) < 0) { fprintf(stderr, "epoll_add failed(epoll_ctl)[fd_epoll:%d,fd:%d][%s]\n", fd_epoll, fd, strerror(errno)); return -1; } fprintf(stdout, "epoll_add success[fd_epoll:%d,fd:%d]\n", fd_epoll, fd); return 0; } int epoll_del(int fd_epoll, int fd) { if (fd_epoll < 0 || fd < 0) { return -1; } struct epoll_event ev_del; if (epoll_ctl(fd_epoll, EPOLL_CTL_DEL, fd, &ev_del) < 0) { fprintf(stderr, "epoll_del failed(epoll_ctl)[fd_epoll:%d,fd:%d][%s]\n", fd_epoll, fd, strerror(errno)); return -1; } close(fd); fprintf(stdout, "epoll_del success[epoll_fd:%d,fd:%d]\n", fd_epoll, fd); return 0; } // 接收数据 void do_read_data(int idx) { if (idx >= MAX_CLIENT_SIZE) { return; } int n; size_t pos = ptr_cli[idx].len; if ((n = recv(ptr_cli[idx].fd, ptr_cli[idx].buff+pos, MAX_CLIENT_BUFF_LEN-pos, 0))) { // 缓冲区数据接收完毕 fprintf(stdout, "[IP:%s,port:%d], data:%s\n", ptr_cli[idx].host, ptr_cli[idx].port, ptr_cli[idx].buff); send(ptr_cli[idx].fd, ptr_cli[idx].buff, pos+1, 0); } else if (n > 0) { // 缓冲区还有数据可读 ptr_cli[idx].len += n; } else if (errno != EAGAIN) { // 对端连接关闭 fprintf(stdout, "The Client closed(read)[IP:%s,port:%d]\n", ptr_cli[idx].host, ptr_cli[idx].port); epoll_del(fd_epoll, ptr_cli[idx].fd); ptr_cli[idx].status = false; } } // 接受新连接 static void do_accept_client() { struct epoll_event ev; struct sockaddr_in cliaddr; socklen_t cliaddr_len = sizeof(cliaddr); int conn_fd = lxx_net_accept(fd_listen, (struct sockaddr *)&cliaddr, &cliaddr_len); if (conn_fd >= 0) { if (lxx_net_set_socket(conn_fd, false) != 0) { close(conn_fd); fprintf(stderr, "do_accept_client failed(setnonblock)[%s:%d]\n", inet_ntoa(cliaddr.sin_addr), cliaddr.sin_port); return; } int i = 0; bool flag = true; // 寻找合适的连接资源 for (i = 0; i < MAX_CLIENT_SIZE; i++) { if (!ptr_cli[i].status) { ptr_cli[i].port = cliaddr.sin_port; snprintf(ptr_cli[i].host, sizeof(ptr_cli[i].host), inet_ntoa(cliaddr.sin_addr)); ptr_cli[i].len = 0; ptr_cli[i].fd = conn_fd; ptr_cli[i].status = true; flag = false; break; } } if (flag) {// 无可用连接 close(conn_fd); fprintf(stderr, "do_accept_client failed(not found unuse client)[%s:%d]\n", inet_ntoa(cliaddr.sin_addr), cliaddr.sin_port); } else { ev.events = EPOLLIN; ev.data.u32 = i | 0x10000000; if (epoll_add(fd_epoll, conn_fd, &ev) < 0) { ptr_cli[i].status = false; close(ptr_cli[i].fd); fprintf(stderr, "do_accept_client failed(epoll_add)[%s:%d]", inet_ntoa(cliaddr.sin_addr), cliaddr.sin_port); return; } fprintf(stdout, "do_accept_client success[%s:%d]", inet_ntoa(cliaddr.sin_addr), cliaddr.sin_port); } } } int main(int argc, char **argv) { unsigned short port = 12345; if(argc == 2){ port = atoi(argv[1]); } if ((fd_listen = lxx_net_listen(port, QUEUE_LEN)) < 0) { fprintf(stderr, "listen port failed[%d]", port); return -1; } fd_epoll = epoll_create(MAX_EPOLL_SIZE); if (fd_epoll < 0) { fprintf(stderr, "create epoll failed.%d\n", fd_epoll); close(fd_listen); return -1; } // 将监听连接加入事件集合 struct epoll_event ev; ev.events = EPOLLIN; ev.data.fd = fd_listen; if (epoll_add(fd_epoll, fd_listen, &ev) < 0) { close(fd_epoll); close(fd_listen); fd_epoll = -1; fd_listen = -1; return -1; } ptr_cli = new client_t[MAX_CLIENT_SIZE]; struct epoll_event events[MAX_EPOLL_SIZE]; for (;;) { int nfds = epoll_wait(fd_epoll, events, MAX_EPOLL_SIZE, 10); if (nfds < 0) { int err = errno; if (err != EINTR) { fprintf(stderr, "epoll_wait failed[%s]", strerror(err)); } continue; } for (int i = 0; i < nfds; i++) { if (events[i].data.u32 & 0x10000000) { // 接收数据 do_read_data(events[i].data.u32 & 0x0FFFFFFF); } else if(events[i].data.fd == fd_listen) { // 接受新连接 do_accept_client(); } } } return 0; }
4.运行结果