linux基础——epoll学习笔记

什么是epoll

epoll是Linux内核为处理大批量文件描述符而作了改进的poll，是Linux下多路复用IO接口select/poll的增强版本，它能显著提高程序在大量并发连接中只有少量活跃的情况下的系统CPU利用率。另一点原因就是获取事件的时候，它无须遍历整个被侦听的描述符集，只要遍历那些被内核IO事件异步唤醒而加入Ready队列的描述符集合就行了。epoll除了提供select/poll那种IO事件的水平触发（Level Triggered）外，还提供了边缘触发（Edge Triggered），这就使得用户空间程序有可能缓存IO状态，减少epoll_wait/epoll_pwait的调用，提高应用程序效率。

epoll相关函数

    struct epoll_event结构如下：
    //保存触发事件的某个文件描述符相关的数据（与具体使用方式有关）  
    typedef union epoll_data {  
        void *ptr;  
        int fd;  
        __uint32_t u32;  
        __uint64_t u64;  
    } epoll_data_t;  
     //感兴趣的事件和被触发的事件  
    struct epoll_event {  
        __uint32_t events; /* Epoll events */  
        epoll_data_t data; /* User data variable */  
    }; 

1. int epoll_create(int size);

创建一个epoll的句柄。自从linux2.6.8之后，size参数是被忽略的。需要注意的是，当创建好epoll句柄后，它就是会占用一个fd值，在linux下如果查看/proc/进程id/fd/，是能够看到这个fd的，所以在使用完epoll后，必须调用close()关闭，否则可能导致fd被耗尽。

2. int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);

epoll的事件注册函数，它不同于select()是在监听事件时告诉内核要监听什么类型的事件，而是在这里先注册要监听的事件类型。
第一个参数是epoll_create()的返回值。
第二个参数表示动作，用三个宏来表示：
EPOLL_CTL_ADD：注册新的fd到epfd中；
EPOLL_CTL_MOD：修改已经注册的fd的监听事件；
EPOLL_CTL_DEL：从epfd中删除一个fd；
第三个参数是需要监听的fd。
第四个参数是告诉内核需要监听什么事。
events可以是以下几个宏的集合：
EPOLLIN ：表示对应的文件描述符可以读（包括对端SOCKET正常关闭）；
EPOLLOUT：表示对应的文件描述符可以写；
EPOLLPRI：表示对应的文件描述符有紧急的数据可读（这里应该表示有带外数据到来）；
EPOLLERR：表示对应的文件描述符发生错误；
EPOLLHUP：表示对应的文件描述符被挂断；
EPOLLET： 将EPOLL设为边缘触发(Edge Triggered)模式，这是相对于水平触发(Level Triggered)来说的。
EPOLLONESHOT：只监听一次事件，当监听完这次事件之后，如果还需要继续监听这个socket的话，需要再次把这个socket加入到EPOLL队列里

3. int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout);

收集在epoll监控的事件中已经发送的事件。参数events是分配好的epoll_event结构体数组，epoll将会把发生的事件赋值到events数组中（events不可以是空指针，内核只负责把数据复制到这个events数组中，不会去帮助我们在用户态中分配内存）。maxevents告之内核这个events有多大，这个 maxevents的值不能大于创建epoll_create()时的size，参数timeout是超时时间（毫秒，0会立即返回，-1将不确定，也有说法说是永久阻塞）。如果函数调用成功，返回对应I/O上已准备好的文件描述符数目，如返回0表示已超时。

Epoll的2种工作方式-水平触发（LT）和边缘触发（ET）

从man手册中，得到ET和LT的具体描述如下

EPOLL事件有两种模型：
Edge Triggered (ET)
Level Triggered (LT)

假如有这样一个例子：
1. 我们已经把一个用来从管道中读取数据的文件句柄(RFD)添加到epoll描述符
2. 这个时候从管道的另一端被写入了2KB的数据
3. 调用epoll_wait(2)，并且它会返回RFD，说明它已经准备好读取操作
4. 然后我们读取了1KB的数据
5. 调用epoll_wait(2)......

Edge Triggered 工作模式：
如果我们在第1步将RFD添加到epoll描述符的时候使用了EPOLLET标志，那么在第5步调用epoll_wait(2)之后将有可能会挂起，因为剩余的数据还存在于文件的输入缓冲区内，而且数据发出端还在等待一个针对已经发出数据的反馈信息。只有在监视的文件句柄上发生了某个事件的时候 ET 工作模式才会汇报事件。因此在第5步的时候，调用者可能会放弃等待仍在存在于文件输入缓冲区内的剩余数据。在上面的例子中，会有一个事件产生在RFD句柄上，因为在第2步执行了一个写操作，然后，事件将会在第3步被销毁。因为第4步的读取操作没有读空文件输入缓冲区内的数据，因此我们在第5步调用 epoll_wait(2)完成后，是否挂起是不确定的。epoll工作在ET模式的时候，必须使用非阻塞套接口，以避免由于一个文件句柄的阻塞读/阻塞写操作把处理多个文件描述符的任务饿死。最好以下面的方式调用ET模式的epoll接口，在后面会介绍避免可能的缺陷。
   i    基于非阻塞文件句柄
   ii   只有当read(2)或者write(2)返回EAGAIN时才需要挂起，等待。但这并不是说每次read()时都需要循环读，直到读到产生一个EAGAIN才认为此次事件处理完成，当read()返回的读到的数据长度小于请求的数据长度时，就可以确定此时缓冲中已没有数据了，也就可以认为此事读事件已处理完成。

Level Triggered 工作模式
相反的，以LT方式调用epoll接口的时候，它就相当于一个速度比较快的poll(2)，并且无论后面的数据是否被使用，因此他们具有同样的职能。因为即使使用ET模式的epoll，在收到多个chunk的数据的时候仍然会产生多个事件。调用者可以设定EPOLLONESHOT标志，在 epoll_wait(2)收到事件后epoll会与事件关联的文件句柄从epoll描述符中禁止掉。因此当EPOLLONESHOT设定后，使用带有 EPOLL_CTL_MOD标志的epoll_ctl(2)处理文件句柄就成为调用者必须作的事情。

LT是缺省的工作方式，并且同时支持block和no-blocksocket；在这种做法中，内核告诉你一个文件描述符是否就绪了，然后你可以对这个就绪的fd进行IO操作。如果你不作任何操作，内核还是会继续通知你的，所以，这种模式编程出错误可能性要小一点。传统的select/poll都是这种模型的代表。

ET是高速工作方式，只支持no-block socket。在这种模式下，当描述符从未就绪变为就绪时，内核通过epoll告诉你。然后它会假设你知道文件描述符已经就绪，并且不会再为那个文件描述符发送更多的就绪通知，直到你做了某些操作导致那个文件描述符不再为就绪状态了。但是请注意，如果一直不对这个fd作IO操作(从而导致它再次变成未就绪)，内核不会发送更多的通知。

二者的差异在于LT模式下只要某个socket处于readable/writable状态，无论什么时候进行epoll_wait都会返回该socket；
而ET模式下只有某个socket从unreadable变为readable或从unwritable变为writable时，epoll_wait才会返回该socket。

accept 要考虑 2 个问题
(1) 阻塞模式下accept存在的问题
考虑这种情况：TCP连接被客户端夭折，即在服务器调用accept之前，客户端主动发送RST终止连接，导致刚刚建立的连接从就绪队列中移出，如果套接口被设置成阻塞模式，服务器就会一直阻塞在accept调用上，直到其他某个客户建立一个新的连接为止。但是在此期间，服务器单纯地阻塞在accept调用上，就绪队列中的其他描述符都得不到处理。
解决办法是把监听套接口设置为非阻塞，当客户在服务器调用accept之前中止某个连接时，accept调用可以立即返回-1，这时源自Berkeley的实现会在内核中处理该事件，并不会将该事件通知给epool，而其他实现把errno设置为ECONNABORTED或者EPROTO错误，我们应该忽略这两个错误。
(2)ET模式下accept存在的问题
考虑这种情况：多个连接同时到达，服务器的TCP就绪队列瞬间积累多个就绪连接，由于是边缘触发模式，epoll只会通知一次，accept只处理一个连接，导致TCP就绪队列中剩下的连接都得不到处理。
解决办法是用while循环抱住accept调用，处理完TCP就绪队列中的所有连接后再退出循环。如何知道是否处理完就绪队列中的所有连接呢？accept返回-1并且errno设置为EAGAIN就表示所有连接都处理完。

下面给出一个常用的epoll程序框架。

    for( ; ; )  
       {  
           nfds = epoll_wait(epfd,events,20,500);  
           for(i=0;i<nfds;++i)  
           {  
               if(events[i].data.fd==listenfd) //有新的连接  
               {  
                   connfd = accept(listenfd,(sockaddr *)&clientaddr, &clilen); //accept这个连接  
                   ev.data.fd=connfd;  
                   ev.events=EPOLLIN|EPOLLET;  
                   epoll_ctl(epfd,EPOLL_CTL_ADD,connfd,&ev); //将新的fd添加到epoll的监听队列中  
               }  
      
               else if( events[i].events&EPOLLIN ) //接收到数据，读socket  
               {  
                   n = read(sockfd, line, MAXLINE)) < 0    //读  
                   ev.data.ptr = md;     //md为自定义类型，添加数据  
                   ev.events=EPOLLOUT|EPOLLET;  
                   epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev);//修改标识符，等待下一个循环时发送数据，异步处理的精髓  
               }  
               else if(events[i].events&EPOLLOUT) //有数据待发送，写socket  
               {  
                   struct myepoll_data* md = (myepoll_data*)events[i].data.ptr;    //取数据  
                   sockfd = md->fd;  
                   send( sockfd, md->ptr, strlen((char*)md->ptr), 0 );        //发送数据  
                   ev.data.fd=sockfd;  
                   ev.events=EPOLLIN|EPOLLET;  
                   epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev); //修改标识符，等待下一个循环时接收数据  
               }  
               else  
               {  
                   //其他的处理  
               }  
           }  
       }

分析：上面的框架使用ET + 非阻塞，对于accept没有使用循环接收，则会导致当两个连接同时接入的时候，只触发一次，则accept一次，另外一个则停留在SYN队列中。当终端超时后发送FIN状态，这边只是将该连接标识为只读状态。并连接处于CLOSE_WAIT状态。当下一次接入的时候，触发epoll，这次accept的却是上一次的连接，这次的连接依然停留在SYN队列中。如果后续都是单次触发的话，则会导致后续交易都失败。

　　这里对KEEPALIVE选项做个补充，KEEPALIVE是用于检测到连接断开后有操作系统自动释放资源，但是并不会释放SYN队列里面的连接，也就是说，CLOSE_WAIT状态会被清除，但是问题还是存在，会把现象遮蔽了。

　　正确应该是在accept加上一个循环：

               while (connfd = accept(listenfd,(sockaddr *)&clientaddr, &clilen) > 0)
               {
                   ev.data.fd=connfd;  
                   ev.events=EPOLLIN|EPOLLET;  
                   epoll_ctl(epfd,EPOLL_CTL_ADD,connfd,&ev); //将新的fd添加到epoll的监听队列中
               }

读写要考虑的问题
当资源暂时不够，比如能read时，读缓冲区没有数据，或者write时，写缓冲区满了。
(1)LT模式阻塞读写
阻塞socket，read/write就要阻塞掉。read/write返回-1代表网络出错了。
(2) LT模式无阻塞读写
read/write立即返回-1， 同时errno设置为EAGAIN。read/write返回-1不一定网络真的出错了。可能是Resource temporarily unavailable。
处理方法：
读：忽略掉errno = EAGAIN的错误，下次继续读
写：忽略掉errno = EAGAIN的错误，下次继续写
(3) ET模式无阻塞读写
正确的读写方式为:
read/write立即返回-1， 同时errno设置为EAGAIN。read/write返回-1不一定网络真的出错了。可能是Resource temporarily unavailable。
处理方法：
读：只要可读，就一直读，直到返回-1（或者返回的大小小于请求的大小），或者 errno = EAGAIN
写:只要可写，就一直写，直到数据发送完，或者 errno = EAGAIN

对于写要注意一点，假如发送端流量大于接收端的流量(意思是epoll所在的程序读比转发的socket要快),由于是非阻塞的socket,那么send()函数虽然返回,但实际缓冲区的数据并未真正发给接收端,这样不断的读和发，当缓冲区满后会产生EAGAIN错误(参考man send),同时,不理会这次请求发送的数据.所以,需要封装socket_send()的函数用来处理这种情况,该函数会尽量将数据写完再返回，返回-1表示出错。在socket_send()内部,当写缓冲已满(send()返回-1,且errno为EAGAIN),那么会等待后再重试.这种方式并不很完美,在理论上可能会长时间的阻塞在socket_send()内部,但暂没有更好的办法.

同一个socket事件同时触发多次考虑的问题
存在这样一种情况，如果是多线程处理，一个socket事件到来，数据开始解析，在这个时候socket又来了同样一个这样的事件，而刚才的数据解析还没有完成，那么程序又会自动调度另外一个线程来处理新的事件，这会造成一个很严重的问题，不同的线程在处理同一个socket事件时会使得程序的健壮性大大降低而编程的复杂度大大增加。
注意：在ET模式下，也可能存在对同一事件触发多次的情况，比如对方发送的数据超过了系统的接收缓冲区，缓冲区装满后就被阻塞了，直到缓冲区的数据被读出来才能够再次写入。ET定义的是临界才会被触发，从不可读到可读、不可写到可写是一种临界，缓冲区从满到不满就是另外一种临界。比如发送数据20000字节，缓冲区大小为1000字节，那么可读会被触发多次。
解决这个现象的两种办法：
1、在单独的线程中解析数据，也就是说接受数据的线程接收到数据后立刻将线程转移到另外的线程。
2、使用EPOLLONESHOT方法，在epoll上注册这个事件，注册这个事件后，对当前正在处理写事件的socket就不再重新注册相关事件，那么这个事件就不再相应或者触发了，这样可以通过手动方式来保证同一socket只能被一个线程处理，不会跨越多个线程。注意在LT模式下，如果设置了EPOLLONESHOP，也需要向ET模式下一样，在处理数据时用循环去读取数据一直读到EAGAIN，否则会丢掉数据。

参考：http://www.ccvita.com/515.html

http://www.cnblogs.com/jabnih/p/5021185.html

http://blog.csdn.net/feitianxuxue/article/details/9346509

http://fpcfjf.blog.163.com/blog/static/5546979320146193451475/

http://blog.csdn.net/Shreck66/article/details/48652605