Reactor实现原理及代码示例

最新推荐文章于 2024-05-22 13:38:53 发布
最新推荐文章于 2024-05-22 13:38:53 发布
阅读量914 收藏 6
点赞数 1
分类专栏： linux 文章标签： 网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46935110/article/details/126270243
版权

回顾

上篇文章我们学习了IO相关的知识，今天我们来聊聊基于IO复用模型的Reactor的实现及原理。

一、什么是Reactor

在处理web请求时，通常有两种体系结构，分别是：thread-based architecture（基于线程）和 event-driven architecture（事件驱动）。

1.1 thread-based architecture

基于线程的体系结构，通常使用多线程来处理客户端请求，每当收到一个客户端请求，就创建一个线程处理该请求。这种设计思路很简单，但是有一个致命的缺陷，就是只使用于并发量不大的场景下。因为线程需要占用内存和CPU资源，且操作系统在线程之间切换也有一定的开销，当线程数量达到一定数量后，该web服务可能就“疲于奔命”了。
在这里插入图片描述
基于线程的服务端代码示例：

#include <stdio.h>
#include <sys/socket.h>
#include <sys/types.h>
#include <netinet/in.h>
#include <fcntl.h>
#include <unistd.h>
#include <pthread.h>
#define BUFFER_LENGTH	128

// thread --> fd
void *routine(void *arg) {
	int clientfd = *(int *)arg;
	while (1) {
		unsigned char buffer[BUFFER_LENGTH] = {0};
		int ret = recv(clientfd, buffer, BUFFER_LENGTH, 0);
		if (ret == 0) {
			close(clientfd);
			break;
		}
		printf("buffer : %s, ret: %d\n", buffer, ret);
		ret = send(clientfd, buffer, ret, 0); // 
	}
}

int main() 
{
	// 创建监听fd
	int listenfd = socket(AF_INET, SOCK_STREAM, 0);  // 
	if (listenfd == -1) return -1;
	
	struct sockaddr_in servaddr;
	servaddr.sin_family = AF_INET;
	servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
	servaddr.sin_port = htons(9999);
	
	// 绑定
	if (-1 == bind(listenfd, (struct sockaddr*)&servaddr, sizeof(servaddr))) {
		return -2;
	}
	// 设置listenfd为非阻塞模式
	// int flag = fcntl(listenfd, F_GETFL, 0);
	// flag |= O_NONBLOCK;
	// fcntl(listenfd, F_SETFL, flag);

	listen(listenfd, 10); // 默认listenfd为阻塞模式

	while (1) {
		struct sockaddr_in client;
		socklen_t len = sizeof(client);
		// 阻塞等待客户端连接上来
		int clientfd = accept(listenfd, (struct sockaddr*)&client, &len);
		
		pthread_t threadid;
		// 为连接上来的客户端fd，创建线程，并叫该客户端fd作为参数传入，线程处理函数
		pthread_create(&threadid, NULL, routine, &clientfd);
	}

	return 0;
}
1.2 event-driven architecture，事件驱动

事件驱动体系结构是目前使用较为广泛的一种。这种方式会定义一系列事件处理器来响应对应的事件，在服务端做到连接处理和事件处理分离。

Reactor就是event-driven architecture的一种实现方式，处理多个客户端向服务端发送请求的场景。Reactor会解耦并发请求，并分发到对应的时间处理器去处理。目前，许多流行的开源框架都用到了reactor模式，如Redis、netty、nginx等等。
在这里插入图片描述
Reactor主要由以下几个角色构成：

  • 文件描述符（Linux，在windows环境下叫句柄）：发生在 fd 上的事件可以有：连接、读事件和写事件。
  • 同步事件分离器：本质上是系统调用，如：Linux中的select、poll和epoll。
  • 初始分发器：当select、poll或epoll 检测到 fd 有事件发生时，会调用特定的回调函数。
  • 事件处理器：通常会定义一些回调函数。fd 上有事件发生，执行对应的回调函数。

代码示例

#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <sys/socket.h>
#include <sys/epoll.h>
#include <arpa/inet.h>

#include <fcntl.h>
#include <unistd.h>
#include <errno.h>
#include <time.h>

#define BUFFER_LENGTH		4096
#define MAX_EPOLL_EVENTS	1024
#define SERVER_PORT			8888
#define PORT_COUNT			1

typedef int NCALLBACK(int ,int, void*);
int recv_cb(int fd, int events, void *arg);
int send_cb(int fd, int events, void *arg);
struct ntyevent *ntyreactor_idx(struct ntyreactor *reactor, int sockfd);

struct ntyevent {
	int fd;
	int events;
	void *arg;
	int (*callback)(int fd, int events, void *arg);
	int status;
	char buffer[BUFFER_LENGTH];
	int length;
	long last_active;
};

struct eventblock {
	struct eventblock *next;
	struct ntyevent *events;
};

struct ntyreactor {
	int epfd;
	int blkcnt;
	struct eventblock *evblk; //fd --> 100w
};

// 初始化ntyevent对象（设置fd，绑定回调，给回调传参等）
void nty_event_set(struct ntyevent *ev, int fd, NCALLBACK callback, void *arg) {
	ev->fd = fd;
	ev->callback = callback;
	ev->events = 0;
	ev->arg = arg;
	ev->last_active = time(NULL);
	return ;	
}


int nty_event_add(int epfd, int events, struct ntyevent *ev) {
	struct epoll_event ep_ev = {0, {0}};
	ep_ev.data.ptr = ev;
	ep_ev.events = ev->events = events;

	int op;
	if (ev->status == 1) {
		op = EPOLL_CTL_MOD;
	} else {
		op = EPOLL_CTL_ADD;
		ev->status = 1;
	}
	if (epoll_ctl(epfd, op, ev->fd, &ep_ev) < 0) {
		printf("event add failed [fd=%d], events[%d]\n", ev->fd, events);
		return -1;
	}
	return 0;
}

// 将ntyevent对象从 epoll集合中删除
int nty_event_del(int epfd, struct ntyevent *ev) {
	struct epoll_event ep_ev = {0, {0}};
	if (ev->status != 1) {
		return -1;
	}
	ep_ev.data.ptr = ev;
	ev->status = 0;
	epoll_ctl(epfd, EPOLL_CTL_DEL, ev->fd, &ep_ev);
	return 0;
}

int recv_cb(int fd, int events, void *arg) {

	struct ntyreactor *reactor = (struct ntyreactor*)arg;
	struct ntyevent *ev = ntyreactor_idx(reactor, fd);

	int len = recv(fd, ev->buffer, BUFFER_LENGTH , 0); // 
	nty_event_del(reactor->epfd, ev);   // 删除该对象的读事件

	if (len > 0) {
		ev->length = len;
		ev->buffer[len] = '\0';
		printf("C[%d]:%s\n", fd, ev->buffer)
		nty_event_set(ev, fd, send_cb, reactor);
		nty_event_add(reactor->epfd, EPOLLOUT, ev);  // 加入该对象的写事件
	} else if (len == 0) {
		close(ev->fd);
		//printf("[fd=%d] pos[%ld], closed\n", fd, ev-reactor->events);
	} else {
		close(ev->fd);
		printf("recv[fd=%d] error[%d]:%s\n", fd, errno, strerror(errno));
	}
	return len;
}

int send_cb(int fd, int events, void *arg) {
	struct ntyreactor *reactor = (struct ntyreactor*)arg;
	struct ntyevent *ev = ntyreactor_idx(reactor, fd);

	// 填充完数据返回给客户端
	int len = send(fd, ev->buffer, ev->length, 0);
	if (len > 0) {
		printf("send[fd=%d], [%d]%s\n", fd, len, ev->buffer);

		nty_event_del(reactor->epfd, ev);     // 删除写事件
		nty_event_set(ev, fd, recv_cb, reactor);
		nty_event_add(reactor->epfd, EPOLLIN, ev);  // 加入读事件
		
	} else {
		close(ev->fd);
		nty_event_del(reactor->epfd, ev);
		printf("send[fd=%d] error %s\n", fd, strerror(errno));
	}
	return len;
}

// 将连接上来的client fd，创建ntyevent对象，并绑定recv_cb，加入到epoll集合
int accept_cb(int fd, int events, void *arg) {
	struct ntyreactor *reactor = (struct ntyreactor*)arg;
	if (reactor == NULL) return -1;

	struct sockaddr_in client_addr;
	socklen_t len = sizeof(client_addr);

	int clientfd;
	if ((clientfd = accept(fd, (struct sockaddr*)&client_addr, &len)) == -1) {
		if (errno != EAGAIN && errno != EINTR) {
			
		}
		printf("accept: %s\n", strerror(errno));
		return -1;
	}
	// int flag = 0;
	// if ((flag = fcntl(clientfd, F_SETFL, O_NONBLOCK)) < 0) {
	// 	printf("%s: fcntl nonblocking failed, %d\n", __func__, MAX_EPOLL_EVENTS);
	// 	return -1;
	// }
	struct ntyevent *event = ntyreactor_idx(reactor, clientfd);
	nty_event_set(event, clientfd, recv_cb, reactor);
	nty_event_add(reactor->epfd, EPOLLIN, event);
	printf("new connect [%s:%d], pos[%d]\n", 
		inet_ntoa(client_addr.sin_addr), ntohs(client_addr.sin_port), clientfd);
	return 0;
}

int init_sock(short port) {

	int fd = socket(AF_INET, SOCK_STREAM, 0);
	fcntl(fd, F_SETFL, O_NONBLOCK);

	struct sockaddr_in server_addr;
	memset(&server_addr, 0, sizeof(server_addr));
	server_addr.sin_family = AF_INET;
	server_addr.sin_addr.s_addr = htonl(INADDR_ANY);
	server_addr.sin_port = htons(port);

	bind(fd, (struct sockaddr*)&server_addr, sizeof(server_addr));

	if (listen(fd, 20) < 0) {
		printf("listen failed : %s\n", strerror(errno));
	}

	return fd;
}


int ntyreactor_alloc(struct ntyreactor *reactor) {

	if (reactor == NULL) return -1;
	if (reactor->evblk == NULL) return -1;

	struct eventblock *blk = reactor->evblk;
	while (blk->next != NULL) {
		blk = blk->next;
	}

	struct ntyevent *evs = (struct ntyevent*)malloc((MAX_EPOLL_EVENTS) * sizeof(struct ntyevent));
	if (evs == NULL) {
		printf("ntyreactor_alloc ntyevents failed\n");
		return -2;
	}
	memset(evs, 0, (MAX_EPOLL_EVENTS) * sizeof(struct ntyevent));

	struct eventblock *block = (struct eventblock *)malloc(sizeof(struct eventblock));
	if (block == NULL) {
		printf("ntyreactor_alloc eventblock failed\n");
		return -2;
	}
	memset(block, 0, sizeof(struct eventblock));

	block->events = evs;
	block->next = NULL;

	blk->next = block;
	reactor->blkcnt ++; //

	return 0;
}

struct ntyevent *ntyreactor_idx(struct ntyreactor *reactor, int sockfd) {
	int blkidx = sockfd / MAX_EPOLL_EVENTS;
	while (blkidx >= reactor->blkcnt) {
		ntyreactor_alloc(reactor);
	}
	struct eventblock *blk = reactor->evblk;

	int i = 0;
	while(i ++ < blkidx && blk != NULL) {
		blk = blk->next;
	}
	return &blk->events[sockfd % MAX_EPOLL_EVENTS];
}


int ntyreactor_init(struct ntyreactor *reactor) {
	if (reactor == NULL) return -1;
	memset(reactor, 0, sizeof(struct ntyreactor));

	// 1. 创建epoll fd
	reactor->epfd = epoll_create(1);
	if (reactor->epfd <= 0) {
		printf("create epfd in %s err %s\n", __func__, strerror(errno));
		return -2;
	}

	// 2.创建一个event对象
	struct ntyevent *evs = (struct ntyevent*)malloc((MAX_EPOLL_EVENTS) * sizeof(struct ntyevent));
	if (evs == NULL) {
		printf("ntyreactor_alloc ntyevents failed\n");
		return -2;
	}
	memset(evs, 0, (MAX_EPOLL_EVENTS) * sizeof(struct ntyevent));

	// 3.初始化链表第一个block
	struct eventblock *block = (struct eventblock *)malloc(sizeof(struct eventblock));
	if (block == NULL) {
		printf("ntyreactor_alloc eventblock failed\n");
		return -2;
	}
	memset(block, 0, sizeof(struct eventblock));

	block->events = evs;
	block->next = NULL;

	reactor->evblk = block;
	reactor->blkcnt = 1;

	return 0;
}

int ntyreactor_destory(struct ntyreactor *reactor) {

	close(reactor->epfd);
	//free(reactor->events);

	struct eventblock *blk = reactor->evblk;
	struct eventblock *blk_next = NULL;

	while (blk != NULL) {
		blk_next = blk->next;
		free(blk->events);
		free(blk);
		blk = blk_next;
	}
	return 0;
}


// 将多个服务器socket，加入到epoll集合，
int ntyreactor_addlistener(struct ntyreactor *reactor, int sockfd, NCALLBACK *acceptor) {
	if (reactor == NULL) return -1;
	if (reactor->evblk == NULL) return -1;

	//reactor->evblk->events[sockfd];
	struct ntyevent *event = ntyreactor_idx(reactor, sockfd);

	nty_event_set(event, sockfd, acceptor, reactor);

	nty_event_add(reactor->epfd, EPOLLIN, event);
	return 0;
}

int ntyreactor_run(struct ntyreactor *reactor) {
	if (reactor == NULL) return -1;
	if (reactor->epfd < 0) return -1;
	if (reactor->evblk == NULL) return -1;
	struct epoll_event events[MAX_EPOLL_EVENTS+1];
	
	int checkpos = 0, i;

	while (1) {

		int nready = epoll_wait(reactor->epfd, events, MAX_EPOLL_EVENTS, -1);
		if (nready < 0) {
			printf("epoll_wait error, exit\n");
			continue;
		}

		for (i = 0;i < nready;i ++) {
			struct ntyevent *ev = (struct ntyevent*)events[i].data.ptr;
			printf("current ready fd = %d\n", ev->fd);
			
			//   回调函数在这里被调用
			if ((events[i].events & EPOLLIN) && (ev->events & EPOLLIN)) {
				ev->callback(ev->fd, events[i].events, ev->arg);
			}
			if ((events[i].events & EPOLLOUT) && (ev->events & EPOLLOUT)) {
				ev->callback(ev->fd, events[i].events, ev->arg);
			}	
		}
	}
}

// 3, 6w, 1, 100 == 
// <remoteip, remoteport, localip, localport>

int main(int argc, char *argv[]) {
	unsigned short port = SERVER_PORT; // listen 8888
	if (argc == 2) {
		port = atoi(argv[1]);
	}
	struct ntyreactor *reactor = (struct ntyreactor*)malloc(sizeof(struct ntyreactor));
	ntyreactor_init(reactor);

	int i = 0;
	int sockfds[PORT_COUNT] = {0};
	for (i = 0;i < PORT_COUNT;i ++) {
		sockfds[i] = init_sock(port+i);
		printf("listen fd = %d\n", sockfds[i]);
		ntyreactor_addlistener(reactor, sockfds[i], accept_cb);
	}

	ntyreactor_run(reactor);
	ntyreactor_destory(reactor);

	for (i = 0;i < PORT_COUNT;i ++) {
		close(sockfds[i]);
	}
	free(reactor);

	return 0;
}

文章参考于<零声教育>的C/C++linux服务期高级架构。

基层搬砖的Panda
关注
  • 1
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Reactor3 源码解析一: 一个简单的例子（1）
八荒六合唯我独尊
12-29 967
拆解源码之前，可以先参阅入门文章Project Reactor 核心原理解析及Reactive响应式流入门。 实例： Flux.just("tom", "jack", "allen") .filter(s -> s.length() > 3) .map(s -> s.concat("@qq.com")) .subscribe(System.out::println); 1. 通过静态方法Flux.just生成一个FluxArray对象...
SpringCloud示例代码
06-15
通过这个示例代码，你可以深入学习SpringCloud的各个核心组件，理解它们的工作原理，并且实际操作，提升你的微服务开发能力。此外，示例中的详细注解将帮助你更好地理解每一部分代码的作用，快速上手SpringCloud开发...
[转].net reactor 学习系列(五)---源代码加密程序
dingjianzhu9863的博客
11-24 733
.NET Reactor使用教程（加密源代码示例） 　　1、打开 Eziriz .NET Reactor，主界面如图1所示： 图1 　　2、单击 Main Assembly 右边的 Open，选择要加密的软件文件exe 或 dll 都可以。 　　3、勾选 Quick Settings 下要加密的项，每项的含意如下： 　　NecroBit：把程序集转为非托管代码； 　　Na...
Reactor简单例子_晏无心_新浪博客
晏无心的博客
07-27 236
Reactor模式是把一个完整的IO操作分成几部分来进行，使用一个或多个Reactor来处理IO请求，对于具体的IO读写以及数据读取完成后的操作，分成更细粒度的模块，根据具体的需求和模块的耗时，来选择性使用单线程或是多线程或者线程池来完成整个IO操作。 来看具体的例子： Reactor实现了Runnable接口，为多线程做准备（实际应用中未必要使用多线程，很多时候使用单线程）； ...
深入了解Nginx（一）：Nginx核心原理
最新发布
My52Hz
05-22 1132
下面有一个简单的例子，假定前头的正向代理服务器能将客户端IP编码成某个特殊的HTTP请求头（如X-My-IP），Nginx就可以通过ngx_realip模块的real_ip_header指令将X-My-IP请求头的IP取出，作为请求中的IP地址（$remote_addr）。在上面的例子中，deny指令属于HTTP标准模块的ngx_http_access_module访问控制模块，而access_by_lua指令属于第三方ngx_lua模块，两个模块都有自己的计算结果，需要经过最终的结果统一。
简单深入理解高性能网络编程(Netty)中的Reactor模型(图文+代码)
念念不忘，必有回响
10-31 1530
文章目录定义传统网络交互方式Reactor 模型组成Netty中`Reactor`模型的实现Reactor 单线程模式非主从Reactor模式(单Reactor多线程模型)主从Reactor多线程模式 定义 Reactor模型就是网络服务器用来处理高并发网络IO请求的一种编程模型。 传统网络交互方式 一般我们网络交互都是基于客户端服务端模式，然后就会有如下事件 当一个客户端和服务器要进行交互时，首先客户端会向服务端发送连接请求，和服务端建立连接。这就对应服务的的连接事件 无论客户端给服务端发送读或写请求，
reactive异步非阻塞
wshten
07-26 285
原文链接：干货 | Reactive模式在Trip.com消息推送平台上的实践
Java Stream 流实现合并操作示例
08-19
Java Stream 流实现合并操作示例 Java Stream 流实现合并操作示例是 Java Stream Api 的一个重要应用场景。在实际开发中，我们经常需要将多个 Stream 流合并成一个流，以便进行后续的数据处理。今天，我们将详细...
mqtt-spring-reactor-sample:集成了mqtt和Project Reactor的示例项目
05-11
《集成MQTT与Project Reactor：一个示例项目的深度解析》 在当今的软件开发领域，实时通信技术已经成为不可或缺的一部分，而MQTT（Message Queuing Telemetry Transport）作为一种轻量级的发布/订阅协议，广泛应用...
socket-nio-single-reactor.zip
06-01
在"socket-nio-single-reactor.zip"中的代码示例，我们可以预期以下几个关键组件： 1. **ServerBootstrap**：这是Netty框架（或者可能是自定义实现）中的一个类，用于配置服务器并启动监听端口。 2. **Selector**...
twisted示例代码
07-05
本示例代码是基于Twisted源码的分析和学习，旨在帮助开发者深入理解其工作原理和用法。 在"twisted-intro-master"这个压缩包中，我们很可能会找到一系列的入门教程和示例程序，这些程序展示了如何使用Twisted来编写...
reactor-examples:展示如何使用Reactor框架的一组示例
04-28
React堆实例 展示如何使用Reactor框架的一组示例。 有两个示例显示了文件字处理器，该文件字处理器将对一组给定文件中的字数进行计数。 文字处理器的过程是： 阻止所有单词 删除所有停用词（a，the等） 完成此操作后，打印出文件中的前20个字。 提供的两个示例使用了使用React堆框架的两种不同模型。 eventbus-examples事件总线示例以两种不同的方式使用EventBus来演示如何在应用程序中使用它。 broadcaster-examples包含一个广播器示例，该示例使用单个React器流来处理文件。 它使用默认配置的调度程序。 这两个示例都在流中使用了有害消息，以了解进程何时完成。 这仅是出于示例的目的。 在现实世界的应用程序中，您希望流/事件一直持续处理，直到收到关闭信号为止，该信号可以用一种更加优雅的方式进行处理。 请随时提供其他示例，如果您有更好的用
reactor 代码实现
qq_36100288的博客
08-22 203
百万请求 reactor代码实现
一个典型reactor网络模型实现
专注于网络编程,游戏后台,高并发
07-16 2551
这些天一直在研究网络编程源码，发现很多开源项目都用到了reactor网络模式，例如libevent,skynet,muduo等等。现在对reactor模式也有了一定的认识。 Reactor模式是编写高性能网络服务器的必备技术之一，它具有如下的优点： 1）响应快，不必为单个同步时间所阻塞，虽然Reactor本身依然是同步的； 2）编程相对简单，可以最大程度的避免复杂的多线程及同步问题，并且避免了多...
Reactor模型示例
skh2015java的博客
06-12 714
Reactor模型相关内容可参考：https://blog.csdn.net/skh2015java/article/details/106721630 Reactor模型示例 mainSelector 负责处理ACCEPT I/O事件，处理ACCEPT的业务逻辑Handler交给executorService线程池处理 subSelector负责处理READ I/O事件，处理READ和逻辑的Handler交给executorService线程处理 import java.io.IOExcepti
基于Reactor的Web服务器（一）
weixin_43164548的博客
06-15 400
利用Reactor模式搭建一个Web服务器项目的整体框架和HTTP请求与响应的处理过程
Reactor模型详解
敲代码的小小酥的博客
12-03 851
Reactor详解
【NIO系列】——之Reactor模型
weixin_34133829的博客
07-11 1302
在开篇之前，我们对JavaNIO 的使用方式不做过多介绍，这种API的介绍方式网上太多了，没必要详细介绍，我们假设NIO的使用方式，你能够熟练运用。这是NIO系列第三篇:【NIO系列】——之TCP探秘【NIO系列】——之IO模型通过之前的Unix的IO模型介绍，想必也了解到了5种IO模型。java的NIO是属于同步非阻塞IO，关于IO多路复用，java没有相应的IO模型，但有相应的编程模式，Rea...
反应器(Reactor)模式
热门推荐
倚风语的专栏
07-22 7万+
概述 Java NIO非堵塞技术实际是采取反应器模式，或者说是观察者(observer)模式为我们监察I/O端口，如果有内容进来，会自动通知我们，这样，我们就不必开启多个线程死等，从外界看，实现了流畅的I/O读写，不堵塞了。 同步和异步区别：有无通知（是否轮询） 堵塞和非读者区别：操作结果是否等待（是否马上又返回值），只是设计方式的不同 NIO 有一个主要的类Selector，这个类似
reactor模式的实现原理
03-31
Reactor模式是一种事件...总的来说，Reactor模式的实现原理是基于事件驱动的设计思想，通过事件分发器、事件处理程序、事件处理器和多路复用器等组件来实现高效的I/O事件处理机制，从而提高系统的可扩展性和可维护性。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值