swoole和java性能对比,swoole task 踩坑及优化

博客讲述了在使用Swoole Task过程中遇到的日志服务bug导致的阻塞问题,以及如何通过Channel进行优化。优化方案包括使用Channel接收和消费日志,避免阻塞,并通过动态调整sleep时间平衡CPU使用和实时性。同时,提到了Swoole进程间通信超过8k数据会产生临时文件的问题,建议使用gzip压缩或者定期清理来解决。
摘要由CSDN通过智能技术生成

如果有仔细看过 swoole task 的文档的话,应该都会注意到这句话

task 操作的次数必须小于onTask处理速度,如果投递容量超过处理能力,task会塞满缓存区,导致worker进程发生阻塞。worker进程将无法接收新的请求

task 如果阻塞会引发 woker 进程阻塞,造成服务无法工作,引发问题。

我曾经使用 task 发送服务的链路日志,接收日志的服务出现bug,造成发送日志的 task 阻塞,然后服务 gg 的情况,之后我就对 task 做了一波优化。

使用 channel 接收数据,然后在 user process 消费数据,假如 channel 满了仅仅会造成 push 数据失败,并不会引发阻塞,因为是链路日志,是允许丢失的,所以这个方案完全没问题。

在swoole user process 消费 channel 的策略的伪代码如下

$sleepTime = 5;

$maxSleepTime = 100;

while (true) {

$task = $chan->pop();

if ($task === false) {

$sleepTime = $sleepTime + 5;

if ($sleepTime > $maxSleepTime) {

$sleepTime = $maxSleepTime;

}

usleep($sleepTime * 1000);

continue;

}

$sleepTime = 0;

// 处理数据

}

如果消费到channel的数据,就使用死循环处理数据,因为处理数据过程中是有其他操作的,所以并不会占用大量 cpu。

如果消费不到数据,就 sleep 5ms,sleep的时间依次累加,直到达到最大值 100ms,达到 cpu 使用率和处理数据实时性的一个平衡,具体平衡点可以根据自己的业务按需调整。

另外,还有使用channel还有一个小坑,往 channel 发送数据使用的 swoole 进程通信机制(不仅仅是channel,swoole 使用进程通信地方基本都有这问题,task 也是),swoole 的进程通信有个点需要注意一下,那就是超过8k的数据会在磁盘产生临时文件,而且这个临时文件 swoole 自己并不会清理,因为这个问题,测试环境的磁盘被这些临时文件打爆过。

怎么处理这个问题呢?我的思路就是使用gzip压缩一下数据,这样可以解决在我的应用场景中超过8k的数据,但是如果在其他场景下,即使处理过数据依然超过8k怎么办呢?写个脚本,定时删吧,好像也没很好的方法。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值