Python混用multiprocess、logging和fork的问题

项目中使用Python的multiprocess模块,构造了一个进程池来执行并行任务。子进程的任务中使用了commands模块来调用C++程序执行实际的计算任务(相当于又fork出了一个进程)。在使用过程中发现会出现子进程卡死的问题。

网上查找资料发现,首先logging模块本身是不支持多进程的,即在multiprocess中不能直接使用logging,可以参考官方文档。更严重的问题是,由于Python内置模块的bug,混用multiprocess、logging和fork的问题会导致进程hang死,可以参考这里,或者google上搜索获取更多的讨论。

为了解决这个问题,我考虑有两个方式:(1)将python脚本封装成独立的子任务,在shell(或者其他语言)中使用进程池,来调起python任务;(2)将Python调起multiprocess前的模块尽可能简单化,目的是尽量避免使用logging模块。

实际试验中方法(2)几乎无效,因为很难完全避免Logging模块。我最终采用的方案1来解决问题。

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值