Celery
Solution for hanging workers
两种解决方式:
1. 如果确认是因为当前worker的并发是prefork(多进程),并且可能是由于死锁原因造成!
那么可以使用 CELERYD_FORCE = True ,这样可以有效防止死锁。即使不是这个原因造成的,也尽量加上。
注意:这种处理方式在4.0之后的版本不支持了,使用时需检查版本,也可采用下面的方式
2. 第二种解决方式适用于大多数进程hanging的情况,可以使用time_limit参数,设定任务的执行超时时间,当超过这个时间的话,就先生成新的进程,并通过信号将hanging的进程杀死。
另外,如果配置中使用了act_late的参数数,需要配合broker_transport_options = {'visiblity_timeout': 10 *60 }使用,这样,在task经过超时时间之后如果还没被ack, 就会被发送到其他worker去执行。如果没设置ack_late,代表对执行结果并不关心,这个参数也就没必要设置了
很有用的一片博客链接:http://blog.csdn.net/woshiaotian/article/details/36422781