【APUE】补充 — 基于管道的线程池

林沐华

已于 2023-11-20 10:37:32 修改

阅读量116

点赞数

分类专栏： UNIX环境高级编程文章标签：开发语言 c++ linux 运维服务器

于 2023-11-18 17:22:53 首次发布

本文链接：https://blog.csdn.net/qq_41657851/article/details/134424783

版权

UNIX环境高级编程专栏收录该内容

12 篇文章 0 订阅

订阅专栏

一、引言

二、代码实现

三、思考

一、引言

在线程章节的 3.2 部分，我们曾经提到过线程池的实现

在当时的代码中，我们仅仅用的一个 int 类型的变量来表示这个“池”，用来存放任务

显然这个池太小了，如果下游线程很多，可能会出现以下情况：

我们只需要将任务池的容量增大点，就可以很好地减少上述提到的多次调度带来的上下文切换开销：

池需要用一个数据结构来维护其池中的任务（数据），我们选用队列进行实现

其实队列这个数据结构的特征和管道非常类似，数据从队列尾入队，从队列首出队；数据写入管道的写端，然后从管道的读端读取数据

我们接下来将动手实现一个队列（管道），并基于该管道扩充池的容量。其实内核也提供了现成的管道，我们不直接使用内核提供的管道主要有以下两点考虑：

内核提供的管道可用于进程间通信，线程间通信没必要用内核提供的机制，用的话就有点儿大材小用了
自己实现管道能够深入了解管道的特点，为后续讲解进程间通信做铺垫（到时候会用到内核提供的管道）

二、代码实现

mypipe.h，暴露接口

#ifndef MYPIPE_H__
#define MYPIPE_H__

#define PIPESIZE 1024
#define MYPIPE_READ 0b00000001UL
#define MYPIPE_WRITE 0b00000010UL

typedef void mypipe_t;

mypipe_t* mypipe_init(void);	// 创建（初始化）一个管道

int mypipe_register(mypipe_t *, int opmap);	// 注册用户身份

int mypipe_unregister(mypipe_t *, int opmap);	// 取消注册用户身份

int mypipe_read(mypipe_t *, int *buf, size_t count);	// 读管道

int mypipe_write(mypipe_t *, const int *buf, size_t count);	// 写管道

int mypipe_destroy(mypipe_t *);	// 销毁管道	

#endif

mypipe.c，实现接口。注意如何将在 mypipe.h 中隐藏的数据结构解除隐藏

#include <stdio.h>
#include <stdlib.h>
#include <pthread.h>
#include <unistd.h>

#include "mypipe.h"

struct mypipe_st {	// 并发队列
	int head;	// 指向队头
	int tail;	// 指向队尾
	int data[PIPESIZE];	// 存放数据的地方
	int datasize;	// 队列中有效数据的个数
	pthread_mutex_t mutex;	// 互斥量
	pthread_cond_t cond;	// 条件变量
	int count_rd, count_wr;	// 读者写者计数
				// 从这里看出，我们需要用户指定其读者/写者的身份
};

mypipe_t * mypipe_init(void) {	// 初始化一个管道
	struct mypipe_st *me;
	me = malloc(sizeof(*me));
	if (me == NULL)
		return NULL;
	me->head = 0;
	me->tail = 0;
	me->datasize = 0;
	me->count_rd = 0;	// 读者个数为0
	me->count_wr = 0;	// 写者个数为0
	pthread_mutex_init(&me->mutex, NULL);
	pthread_cond_init(&me->cond, NULL);
	return me;
}

int mypipe_register(mypipe_t *ptr, int opmap) {	// 用户通过该函数指定其身份
	struct mypipe_st * me = ptr;	// 之前在.h文件中隐藏了ptr所表征的数据结构，在这里取消隐藏
	pthread_mutex_lock(&me->mutex);	// 可能多个线程同时注册身份，需要互斥
	if (opmap & MYPIPE_READ)	// 将宏看成位图，注意位图操作
		me->count_rd++;
	if (opmap & MYPIPE_WRITE)
		me->count_wr++;
	pthread_mutex_unlock(&me->mutex);	
	return 0;
}

int mypipe_unregister(mypipe_t *ptr, int opmap) {	// 用户通过该函数取消注册其身份
	struct mypipe_st * me = ptr;
	pthread_mutex_lock(&me->mutex);
	if (opmap & MYPIPE_READ)
		me->count_rd--;
	if (opmap & MYPIPE_WRITE)
		me->count_wr--;
	pthread_cond_broadcast(&me->cond);	// 可能读者或者写者被减为0了，需要通知一下read及write
	pthread_mutex_unlock(&me->mutex);
	return 0;
}

int mypipe_read(mypipe_t * ptr, int *buf, size_t count) {
	struct mypipe_st * me = ptr;
	pthread_mutex_lock(&me->mutex);
	while (me->datasize <= 0 && me->count_wr > 0)	// 当管道中没有数据，但是还有写者，就继续等待
	{
		pthread_cond_wait(&me->cond, &me->mutex);	// 等待管道中有数据
								// 等待写者数量变为0
	}
	if (me->datasize <= 0 && me->count_wr <= 0)
	{
		pthread_mutex_unlock(&me->mutex);	// 没有写者且管道中没有数据，就直接返回读取到的字节数为0
		return 0;
	}

	int i;
	for (i = 0; i < count; ++i) {	// 读取
		if (me->datasize <= 0)
			break;
		*(buf+i) = me->data[me->head];
		me->head = (me->head + 1)%PIPESIZE;	// 读出来了，相当于队列首出队了一个元素
		me->datasize--;
	}
	pthread_cond_broadcast(&me->cond);	// 告诉写者能写了
	pthread_mutex_unlock(&me->mutex);
	return i;
}

int mypipe_write(mypipe_t *ptr, const int *buf, size_t count) {
	struct mypipe_st * me = ptr;
	pthread_mutex_lock(&me->mutex);
	while (me->datasize >= PIPESIZE && me->count_rd > 0)	// 当管道满，但是还有读者，就继续等待 
		pthread_cond_wait(&me->cond, &me->mutex);	// 等待读者读出数据，使管道不满
								// 等待读者数量变为0

	if (me->datasize >= PIPESIZE && me->count_rd <= 0)	// 没有读者后，且管道已经满了，就没必要继续写了，直接返回
	{
		pthread_mutex_unlock(&me->mutex);
		return 0;
	}

	int i;
	for (i = 0; i < count; ++i) {	// 写入
		if (me->datasize == PIPESIZE)
			break;
		me->data[me->tail] = *(buf+i);
		me->tail = (me->tail + 1)%PIPESIZE;
		me->datasize++;
	}
	pthread_cond_broadcast(&me->cond);	// 告诉读者能读了
	pthread_mutex_unlock(&me->mutex);
	return i;
}

int mypipe_destroy(mypipe_t * ptr) {
	struct mypipe_st * me = ptr;
	pthread_mutex_destroy(&me->mutex);
	pthread_cond_destroy(&me->cond);
	free(ptr);
	return 0;
}

main.c，演示用户如何使用接口。main 首先创建 10 个线程（这 10 个线程负责从池中获取数据并判断是否为质数），然后 main 线程自身源源不断往池中写入数据。我们需要用我们上述写的管道来表征这个池，注意如何使用我们的接口：

创建管道
往管道写入数据前需要注册写者身份，写入完毕后需要取消注册的身份
从管道读取数据前需要注册读者身份，读取完毕后需要取消注册的身份
管道用完后需要销毁管道

#include <stdio.h>
#include <stdlib.h>
#include <pthread.h>
#include <unistd.h>
#include "mypipe.h"

#define NUM_THREADS 10
#define START_NUM 30000000
#define END_NUM 30000200

static mypipe_t * mypipe;	// 定义一个管道在全局区，这样进程中的线程都能访问该管道

// 质数判断函数
int is_prime(int number) {
	if (number <= 1) return 0;
	for (int i = 2; i * i <= number; i++) {
		if (number % i == 0) return 0;
	}
	return 1;
}

// 线程函数
void *reader_function(void *arg) {
	int number;
	
	mypipe_register(mypipe, MYPIPE_READ);

	while (mypipe_read(mypipe, &number, 1) > 0) {
		if (is_prime(number)) {
			printf("Prime number: %d\n", number);
		}
	}

	mypipe_unregister(mypipe, MYPIPE_READ);
	return NULL;
}

int main() {
	pthread_t threads[NUM_THREADS];
	mypipe = mypipe_init();    // 创建管道

	// 创建读线程
	for (int i = 0; i < NUM_THREADS; i++) {
		pthread_create(&threads[i], NULL, reader_function, NULL);
	}

	// 主线程写入数据
	mypipe_register(mypipe, MYPIPE_WRITE);
	for (int i = START_NUM; i <= END_NUM; i++) {
		mypipe_write(mypipe, &i, 1);
	}
	mypipe_unregister(mypipe, MYPIPE_WRITE);
	// 等待所有读线程完成
	for (int i = 0; i < NUM_THREADS; i++) {
		pthread_join(threads[i], NULL);
	}

	// 销毁管道
	mypipe_destroy(mypipe);
	return 0;
}

结果示例如下

我们判断的是从 30000000 到 30000200 之间的质数，结果和线程章节的 3.2 中所实现代码的运行结果一致，说明代码没毛病

我们从我们自己创建的管道，可以看出管道的如下几个特点

管道通信是单工的。一方作为读者，另一方作为写者。写永远写在尾部，读永远是从首部读
管道必须凑齐读写双方才能正常运行。注意 mypipe_read 和 mypipe_write 中的 while 循环条件：只要缺失读者或者写者，另一方就可能直接返回而不会等待新的数据（哪怕后面可能有新的读者或者写者加入并读写管道）
管道内部自带同步与互斥机制

三、思考

上述代码的一个缺陷是：没有办法约束用户的行为！

比如我是一个用户，我注册的是读者身份，却调用的 write......

那可不妥！！一种好的思路是引入权限的概念，并对上述接口再封装一层......

上述蓝色字体表示封装出来的新的接口，以供用户使用；绿色字体介绍了这样封装的思想和逻辑。其实这就是 UNIX “一切皆文件”思想的部分实现方式！即：就算最底层可能是完全不一样的东东（操作管道、操作设备、操作普通文件......），也会再封装一层，并提供通用的接口（如 open、read、write、close 和文件描述符 fd......）。这样一来，在用户的视角里，操作文件的接口也可以操作很多不一样的东东，因此“一切皆文件”