celery 停止任务_Celery 周期任务运行一段时间后意外停止

Celery周期抓取数据

用Python Django做了一个网站。后端有些周期抓数据的需求，分布式任务队列Celery派上了用场。

投入使用后，发现一个问题，运行一段时间后，周期更新的数据刷新时间停留在几天之前，Celery任务莫名其妙就不起作用了。查看日志，Celery beat日志是按周期在更新，但Celery worker日志停留在几天之前。查看进程，beat、worker进程均运行良好。一头雾水。每次碰到这种情况，只能重启。然后过一段时间又不起作用了，断断续续困扰大半年时间。

曾经也暗骂python轮子咋这样不靠谱，甚至也想转投java的怀抱，用spring boot搞一下。略一思考，转投java也有切换成本，换过去之后，也会碰到这样那样的问题。如果这个技术栈上碰到问题解决不了，换个技术栈碰到问题可能还是束手无策。换到java的好处可能是使用广泛，有问题都是别人已经趟过的坑，容易找到借鉴经验。小众的技术栈就没这么好的待遇了。

那么，想办法解决问题吧。

死锁导致Celery worker卡住无法消费新任务

在google多番搜索，有一些线索可供参考。其中一个是说psycopg2、与postgres使用时可能会死锁。原因是postgres使用ssl时在一个callback中加了个锁，但是个callback是共用的，postgres自己unload时会释放这个锁，但是其他使用这个callback的并不知道，然后就死锁了。解决方案是把psycopg2升级到2.6版本以上。

但是我的版本已经是2.8了。所以这个解决方案并不能完全适用于我的问题。不过死锁还是给了我启发。可能celery worker执行某个任务时卡死了。

沿着这