有关celery中task对象使用多线程时,动态更新问题

背景

有一个需求,是celery异步任务中使用多线程,同时需要对总体数量进度的更新。

描述

import threading
from celery import Celery
import celery
app = Celery(
    broker='redis://:@127.0.0.1:6379/1',
    backend='mongodb://test:{password}@{host}:{port}/test_map?authSource=test_map'.format(
    password='test',
    host='127.0.0.1',
    port=27017,
)
    )
lock = threading.Lock()

 
def run_subtask(celery_task, i):
    lock.acquire()
    #Error raises here, when update_state calls
    # 这里会无法更新
    celery_task.update_state(state=celery.states.SUCCESS, meta={'subtask_id': i})
    lock.release()
 
 
@app.task(bind=True, ignore_result=True)
def get_info(self):
    
    workers = []
    for i in range(4):
        workers.append(threading.Thread(target=run_subtask, args=(self, i)))
    for worker in workers:
        worker.start()
    for worker in workers:
        worker.join()
    # ignore_result=True 加上这句话避免 return None在数据库里看到null值

查看数据库结果:

没有出现对应的数据记录

调整

def run_subtask(celery_task, i, task_id):
    lock.acquire()
    #Error raises here, when update_state calls
    # celery_task.update_state(state=states.SUCCESS, meta={'subtask_id': i})
    # 之前的方法无法在多线程获取到指定的对象,很诡异的无法更新
    celery_task.update_state(task_id=task_id, state=celery.states.SUCCESS, meta={'subtask_id': i})
    lock.release()

@celery.task(bind=True, ignore_result=True)
def get_info(self, user):
    task_id = self.request.id
    for i in range(4):
        worker = threading.Thread(target=run_subtask, args=(self, i, task_id))
        worker.start()

查看到数据记录:

符合预期

参考链接:https://stackoverflow.com/questions/42595426/python-multithreading-into-celery-task-celery-task-update-state-error

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值