目录
epoll技术简介
【epoll概述】
- I/O多路复用:epoll就是一种典型的I/O多路复用技术: epoll技术的最大特点是支持高并发。
- 传统多路复用技术select,poll,在并发量达到1000-2000,性能就会明显下降
- epoll,从linux内核2.6引入的,2.6之前是没有的
- epoll和kqueue(freebsd)技术类似:单独一台计算机支撑少则数万,多则数十上百万并发连接的核心技术。
- epoll技术完全没有这种性能会随着并发量提高而出现明显下降的问题。但是并发没增加一个,必定要消耗一定的内存去保存这个连接相关的数据。
- 并发量总还是有限制的,不可能是无限的
- 10万个连接同一时刻,可能只有几十上百个客户端给你发送数据,epoll只处理这几十上百个客户端
- 很多服务器程序用多进程,每一个进程对应一个连接也有用多线程做的,每一个线程对应 一个连接。
- epoll事件驱动机制,在单独的进程或者单独的线程里运行,收集/处理事件没有进程/线程之间切换的消耗,高效。
- 适合高并发,融合epoll技术到项目中,写小demo非常简单,难度小,但是要把epoll技术融合到商业的环境中,那么难度就会骤然增加。
epoll原理与函数介绍
- 三个函数,理解好了等于掌握了epoll技术的工作原理。
- 参考:https:github.com/wangbojing
- a)c1000k_test这里,测试百万并发的一些测试程序一般以main()为入口。
- b)ntytcp:nty_epoll_inner.h,nty_epoll_rb.c
- epoll_create();
- epoll_ctl();
- epoll_wait();
- epoll_event_callback();
【epoll_create()函数】
int epoll_create(int size);
- 功能:创建一个epoll对象,返回该对象的描述符【文件描述符】,这个描述符就代表这个epoll对象,后续会用到。
- 这个epoll对象最终要用close(),因为文件描述符/句柄 总是关闭的。
- size > 0;。
【原理】
struct eventpoll *ep = (struct eventpoll*)calloc(1, sizeof(struct eventpoll));
- eventpoll结构体:
//调用epoll_create()的时候我们会创建这个结构的对象 struct eventpoll { ep_rb_tree rbr; //ep_rb_tree是个结构,所以rbr是结构变量,这里代表红黑树的根; int rbcnt; LIST_HEAD( ,epitem) rdlist; //rdlist是结构变量,这里代表双向链表的根; /* 这个LIST_HEAD等价于下边这个 struct { struct epitem *lh_first; }rdlist; */ int rdnum; //双向链表里边的节点数量(也就是有多少个TCP连接来事件了) int waiting; pthread_mutex_t mtx; //rbtree update pthread_spinlock_t lock; //rdlist update pthread_cond_t cond; //block for event pthread_mutex_t cdmtx; //mutex for cond };
- rbr结构成员:代表一颗红黑树的根节点[刚开始指向空],把rbr理解成红黑树的根节点的指针
- 红黑树,用来保存 键【数字】/值【结构】,能够快速的通过你给key,把整个的键/值取出来
- rdlist结构成员:代表 一个双向链表的表头指针
- 双向链表:从头访问/遍历每个元素特别快next。
- 总结:创建了一个eventpoll结构对象,被系统保存起来。
- rbr成员被初始化成指向一颗红黑树的根【有了一个红黑树】
- rdlist成员被初始化成指向一个双向链表的根【有了双向链表】
【epoll_ctl()函数】
int epoll_ctl(int efpd,int op,int sockid,struct epoll_event *event);
- 功能:把一个socket以及这个socket相关的事件添加到这个epoll对象描述符中去,目的就是通过这个epoll对象来监视这个socket【客户端的TCP连接】上数据的来往情况;当有数据来往时,系统会通知我们 。
- 我们把感兴趣的事件通过 epoll_ctl() 添加到系统,当这些事件来的时候,系统会通知我们。
- efpd:epoll_create()返回的epoll对象描述符
- op:动作,添加/删除/修改 ,对应数字是1,2,3, EPOLL_CTL_ADD, EPOLL_CTL_DEL ,EPOLL_CTL_MOD
- EPOLL_CTL_ADD添加事件:等于你往红黑树上添加一个节点,每个客户端连入服务器后,服务器都会产生 一个对应的socket,每个连接这个socket值都不重复所以,这个socket就是红黑树中的key,把这个节点添加到红黑树上去
- EPOLL_CTL_MOD:修改事件你 用了EPOLL_CTL_ADD把节点添加到红黑树上之后,才存在修改
- EPOLL_CTL_DEL:是从红黑树上把这个节点干掉这会导致这个socket【这个tcp链接】上无法收到任何系统通知事件
- sockid:表示客户端连接,就是你从accept()这个是红黑树里边的key;
- event:事件信息,这里包括的是 一些事件信息EPOLL_CTL_ADD和EPOLL_CTL_MOD都要用到这个event参数里边的事件信息
- 原理:
- epi = (struct epitem*)calloc(1, sizeof(struct epitem));
- epi = RB_INSERT(_epoll_rb_socket, &ep->rbr, epi); 【EPOLL_CTL_ADD】增加节点到红黑树中
- epi = RB_REMOVE(_epoll_rb_socket, &ep->rbr, epi);
- EPOLL_CTL_DEL,从红黑树中把节点干掉
- EPOLL_CTL_MOD,找到红黑树节点,修改这个节点中的内容
- epitem.rbn ,代表三个指针,分别指向红黑树的左子树,右子树,父亲。
- 总结:
- EPOLL_CTL_ADD:等价于往红黑树中增加节点
- EPOLL_CTL_DEL:等价于从红黑树中删除节点
- EPOLL_CTL_MOD:等价于修改已有的红黑树的节点
- 当事件发生,我们如何拿到操作系统的通知? 通过epoll_wait 函数。
【epoll_wait()函数】
int epoll_wait(int epfd,struct epoll_event *events,int maxevents,int timeout);
- 功能:阻塞一小段时间并等待事件发生,返回事件集合,也就是获取内核的事件通知
- 说白了就是遍历这个双向链表,把这个双向链表里边的节点数据拷贝出去,拷贝完毕的就从双向链表里移除。
- 因为双向链表里记录的是所有有数据/有事件的socket【TCP连接】。
- 参数epfd:是epoll_create()返回的epoll对象描述符。
- 参数events:是内存,也是数组,长度 是maxevents,表示此次epoll_wait调用可以搜集到的maxevents个已经就绪【已经准备好的】的读写事件。
- 就是返回的是 实际 发生事件的tcp连接数目。
- 参数timeout:阻塞等待的时长
- epitem结构设计的高明之处:既能够作为红黑树中的节点,又能够作为双向链表中的节点。
【内核向双向链表增加节点】
- 一般有四种情况,会使操作系统把节点插入到双向链表中
- a)客户端完成三次握手服务器要accept();
- b)当客户端关闭连接,服务器也要调用close()关闭
- c)客户端发送数据来的服务器要调用read(),recv()函数来收数据
- d)当可以发送数据时服务武器可以调用send(),write()
- e)其他情况...