django_rq是为django集成redis队列,这个用的少,一般会选择celery,没办法项目中用到了。用起来很简单,配置可以参考官方文档:https://pypi.org/project/django-rq/。
settings.py 只需要配置如下:
INSTALLED_APPS =( #other apps “django_rq”, ) RQ_QUEUES = { 'default': { 'HOST': 'localhost', 'PORT': 6379, 'DB': 0, 'PASSWORD': 'some-password', 'DEFAULT_TIMEOUT': 360, }, 'with-sentinel': { 'SENTINELS': [('localhost', 26736), ('localhost', 26737)], 'MASTER_NAME': 'redismaster', 'DB': 0, 'PASSWORD': 'secret', 'SOCKET_TIMEOUT': None, }, 'high': { 'URL': os.getenv('REDISTOGO_URL', 'redis://localhost:6379/0'), # If you're on Heroku 'DEFAULT_TIMEOUT': 500, }, 'low': { 'HOST': 'localhost', 'PORT': 6379, 'DB': 0, } } RQ_EXCEPTION_HANDLERS = ['path.to.my.handler'] # If you need custom exception handlers
遇到的问题1【keyerror:default】:线上的队列配置如下:
RQ_QUEUES = { '{q}high': { 'HOST': '127.0.0.1', 'PORT': 6379, 'DB': 0, 'DEFAULT_TIMEOUT': 360, 'SOCKET_KEEPALIVE': True, }, '{q}default': { 'HOST': '127.0.0.1', 'PORT': 6379, 'DB': 0, 'DEFAULT_TIMEOUT': 360, 'SOCKET_KEEPALIVE': True, }, }
{q}无法识别,于是删掉{q},项目就可以启动起来(后面版本降级后队列启动跟名无关,带{q}也可以)。
遇到的问题2【进入high队列的job只能入队,无法出队列】,在排查日志的时候发现:
# 线上日志如下: 2016-11-02 11:44:08,883 *** Listening on {q}high, {q}default... 2016-11-02 11:44:08,883 Sent heartbeat to prevent worker timeout. Next one should arrive within 420 seconds. # 自己的日志为: 2016-11-02 11:44:08,883 *** Listening on default...
并没有去监听high队列,于是有部分任务无法去执行。
最后,代码各个配置都对了一遍,上git找到django_rq源码,依赖包的版本也很重要,果不其然,线上是直接git安装的一个未发布的版本0.9.2.1,我是安装最新版本0.9.3,可以发现django_rq更新竟然不是向前兼容的,无耐^~^,我只好降级为django_rq==0.9.2,日志监听变为两个队列,一切正常了。