满满的干货！典型服务器模式原理分析与实践，看了就能懂

最新推荐文章于 2024-08-08 09:58:42 发布

2401_84048935

最新推荐文章于 2024-08-08 09:58:42 发布

阅读量387

点赞数 4

分类专栏：程序员文章标签：服务器 java linux

本文链接：https://blog.csdn.net/2401_84048935/article/details/138064687

版权

程序员专栏收录该内容

247 篇文章 2 订阅

订阅专栏

文章介绍了服务器优化中的prefork模式、多线程并发和reactor模式（包括epoll的LT和ET模式），讨论了它们的优缺点，以及如何解决连接数有限和惊群等问题。重点在于C10K问题的解决方案和IO多路复用在高并发场景的应用。

摘要由CSDN通过智能技术生成

}

printf(“child exit, pid: %d\n”, getpid());
fflush(stdout);
exit(EXIT_SUCCESS);
}
// 父进程
else
{
close(iConnectFd);
}
}

预先派生子进程服务器

既然fork进程时的开销比较大，因此很自然的一种优化方式是，在服务器启动的时候就预先派生子进程，即prefork。每个子进程自己进行accept，大概的流程图如下(图片来自网络，侵删)：

满满的干货！典型服务器模式原理分析与实践，看了就能懂

相比于pcc模式，prefork在建立连接时的开销小了很多，但是另外两个问题——连接数有限和进程间通信复杂的问题还是存在。除此之外，prefork模式还引入了新的问题，当有一个新的连接到来时，虽然只有一个进程能够accept成功，但是所有的进程都被唤醒了，这个现象被称为惊群。惊群导致不必要的上下文切换和资源的调度，应该尽量避免。好在linux2.6版本以后，已经解决了惊群的问题。对于惊群的问题，也可以在应用程序中解决，在accept之前加锁，accept以后释放锁，这样就可以保证同一时间只有一个进程阻塞accept，从而避免惊群问题。进程间加锁的方式有很多，比如文件锁，信号量，互斥量等。

无锁版本的代码在prefork_server目录。加锁版本的代码在prefork_lock_server目录，使用的是进程间共享的线程锁。

多线程并发服务器

线程是一种轻量级的进程(linux实现上派生进程和线程都是调用do_fork函数来实现)，线程共享同一个进程的地址空间，因此创建线程时不需要像fork那样，拷贝父进程的资源，维护独立的地址空间，因此相比进程而言，多线程模型开销要小很多。多线程并发服务器模型与多进程并发服务器模型类似。

多线程并发服务器模型，与多进程并发服务器模型相比，开销小了很多。但是同样存在连接数很有限这个限制。除此之外，多线程程序还引入了新的问题

多线程程序不如多进程程序稳定，一个线程崩溃可能导致整个进程崩溃，最终导致服务完全不可用。而多进程程序则不存在这样的问题
多线程程序共享了地址空间，省去了多进程程序之间复杂的通信方法。但是却需要对共享资源同时访问时进行加锁保护
创建线程的开销虽然比创建进程的开销小，但是整体来说还是有一些开销的。

预先派生线程服务器

和预先派生子进程相似，可以通过预先派生线程来消除创建线程的开销。

满满的干货！典型服务器模式原理分析与实践，看了就能懂

预先派生线程的代码在pthread_server目录。

reactor模式

前面提及的几种模式都没能解决的一个问题是——连接数有限。而IO多路复用就是用来解决海量连接数问题的，也就是所谓的C10K问题。

IO多路复用有三种实现方案，分别是select，poll和epoll，关于三者之间的区别就不在赘述，网络上已经有很多文章讲这个的了，比如这篇文章 Linux IO模式及 select、poll、epoll详解。

epoll因为其可以打开的文件描述符不像select那样受系统的限制，也不像poll那样需要在内核态和用户态之间拷贝event，因此性能最高，被广泛使用。

epoll有两种工作模式，一种是LT(level triggered)模式，一种是ET(edge triggered)模式。LT模式下，假如来了4k的数据，但是程序只读了前面2k的数据，那么再次阻塞在epoll_wait上时，x系统还会再次通知该文件可读。而ET模式下，如果只读了2k的数据，然后就退出并重新阻塞在epoll上时，系统不会通知该文件可读，除非又有新的数据发送过来。因此，ET模式下每次通知可读时就要把发送过来的数据全部读完。这个特性使得ET模式下只能采用非阻塞IO，在while循环中读取这个文件描述符中的数据，直到read或write返回EAGAIN。如果采用阻塞IO，read或write在多次循环读完了数据，最后一次的读写操作会一直阻塞，导致进程或者线程没有阻塞在epoll_wait上，IO多路复用就失效了。非阻塞IO配合IO多路复用就是reactor模式。reactor是核反应堆的意思，光是听这名字我就觉得牛不不要不要的了。

epoll编码的核心代码，我直接从man命令里的说明里拷贝过来了，我们的实现在目录reactor_server里。

#define MAX_EVENTS 10
struct epoll_event ev, events[MAX_EVENTS];
int listen_sock, conn_sock, nfds, epollfd;

/* Set up listening socket, ‘listen_sock’ (socket(),bind(), listen()) */

// 创建epoll句柄
epollfd = epoll_create(10);
if (epollfd == -1) {
perror(“epoll_create”);
exit(EXIT_FAILURE);
}

// 将监听套接字注册到epoll上
ev.events = EPOLLIN;
ev.data.fd = listen_sock;
if (epoll_ctl(epollfd, EPOLL_CTL_ADD, listen_sock, &ev) == -1) {
perror(“epoll_ctl: listen_sock”);
exit(EXIT_FAILURE);
}

for (;😉 {
// 阻塞在epoll_wait
nfds = epoll_wait(epollfd, events, MAX_EVENTS, -1);
if (nfds == -1) {
perror(“epoll_pwait”);
exit(EXIT_FAILURE);
}

for (n = 0; n < nfds; ++n) {
if (events[n].data.fd == listen_sock) {
conn_sock = accept(listen_sock, (struct sockaddr *) &local, &addrlen);
if (conn_sock == -1) {
perror(“accept”);
exit(EXIT_FAILURE);
}

// 将连接套接字设定为非阻塞、边缘触发，然后注册到epoll上
setnonblocking(conn_sock);
ev.events = EPOLLIN | EPOLLET;
ev.data.fd = conn_sock;
if (epoll_ctl(epollfd, EPOLL_CTL_ADD, conn_sock,
&ev) == -1) {
perror(“epoll_ctl: conn_sock”);
exit(EXIT_FAILURE);
}
} else {
do_use_fd(events[n].data.fd);
}
}
}

然后我们再分析一下epoll的原理。

epoll_create创建了一个文件描述符，这个文件描述符实际是指向的一个红黑树。当用epoll_ctl函数去注册文件描述符时，就是往红黑树中插入一个节点，该节点中存储了该文件描述符的信息。当某个文件描述符准备好了，回去调用一个回调函数ep_poll_callback将这个文件描述符准备好的信息放到rdlist里，epoll_wait则阻塞于rdlist直到其中有数据。