python中多线程+多进程+logging出现子进程死锁的问题

在Python服务中,多线程和多进程结合使用logging时可能出现子进程死锁现象,原因在于子进程复制了父进程的logging锁。当父进程锁被占用时,子进程无法释放其复制的锁,导致日志记录阻塞。此问题在线上环境中偶发,难以复现。为解决此问题,可以利用`python-atfork`库在fork前后执行特定回调,释放锁资源。通过`atfork.monkeypatch_os_fork_functions()`和`atfork.atfork()`注册回调函数,修复logging模块中的锁,如`stdlib_fixer.fix_logging_module()`。
摘要由CSDN通过智能技术生成

参考文档:

https://www.ctolib.com/topics/85107.html

https://twiki.cern.ch/twiki/bin/view/Main/PythonLoggingThreadingMultiprocessingIntermixedStudy

https://github.com/google/python-atfork

服务采用多线程+ 多进程+ logging的模式,服务偶然会出现死锁的子进程。

如下:


image.png                             ​

通过分析子进程死锁的原因是在子进程复制(multiprocessing中调用os.fork)的时候,会把主进程的logging中的锁也复制了一份,如果这个时候锁是被占用的,子进程的锁就一直是占用的,即使父进程中的锁被释放,也不行。子进程会一直阻塞在获得锁的状态,就没办法记日志了。

测试环境上跑的时候并没有复现这个问题,且线上环境死锁的现象也是偶发的,现需要想办法复现这个问题。

测试:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值