python中队列的应用用场景_Python Celery异步任务队列使用方法解析

Celery是一个异步的任务队列(也叫做分布式任务队列),一个简单，灵活，可靠的分布式系统，用于处理大量消息，同时为操作提供维护此类系统所需要的工具。

celery的优点

1:简单，容易使用，不需要配置文件

2:高可用，任务执行失败或执行过程中发生连续中断，celery会自动尝试重新执行任务

3:快速，一个单进程的celery每分钟可以处理上百万个任务

4:灵活，几乎celery的各个组件都可以被扩展

celery应用场景

1:异步发邮件，一般发邮件等比较耗时的操作，这个时候需要提交任务给celery就可以了，由worker进行发邮件操作

2:有些跑批量接口任务，需要耗时较长，也可以做成异步任务

3:定时调度任务

Celery与Django一起使用(以发送短信为例)

独立于项目新建一个package包

在package包中新建一个名为sms的package包

新建tasks.py文件

#定义耗时的函数

from utils.ytx_sdk.sendSMS import CCP

from celery_tasks.main import app

#为函数添加装饰器，这个函数就成为了celery的任务

@app.task

def send_sms_code(mobile,code,expires,template_id):

try:

# CCP.sendTemplateSMS(mobile,code,expires,template_id)

print(code)

except:

return '发送短信失败'

在package包中新建config.py

内容如下(中间人，接收生产者发来的消息即Task，将任务存入队列。任务的消费者是Worker。Celery本身不提供队列服务，推荐用Redis或RabbitMQ实现队列服务。)

#指定代理人队列==>redis

broker_url='redis://127.0.0.1:6379/15'

在package包中新建main.py

内容如下(需要将task注册到celery应用中)

#启动工人的文件

from celery import Celery

# 为celery使用django配置文件进行设置

import os

if not os.getenv('DJANGO_SETTINGS_MODULE'):

os.environ['DJANGO_SETTINGS_MODULE'] = 'yinyue.settings.dev'

# 创建celery应用

app = Celery('yinyue')

# 导入celery配置

app.config_from_object('celery_tasks.config')

# 自动注册celery任务

app.autodiscover_tasks([

'celery_tasks.sms'

])

在django框架对应模块的视图中使用

#调用celery的任务：任务名.delay(参数)

send_sms_code.delay(mobile,code,constants.SMS_CODE_EXPIRES/60,1)

启动celery服务: celery -A celery_tasks.main worker -l info

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持python博客。