分布式框架Celery

yjjpp2301

已于 2024-06-25 16:51:39 修改

阅读量982

点赞数 23

分类专栏： Celery 文章标签： django python 后端

于 2024-06-25 14:52:15 首次发布

本文链接：https://blog.csdn.net/yjjpp2301/article/details/139958037

版权

Celery 专栏收录该内容

7 篇文章 0 订阅

订阅专栏

一、Celery介绍

Celery 是什么？
1. celery 是一个灵活且可靠的，处理大量消息的分布式系统，可以在多个节点之间处理某个任务
2. celery 是一个专注于实时处理的任务队列，支持任务调度
3. celery 是开源的，有很多的使用者
4. celery 完全基于 Python 语言编写
5. 所以 celery 本质上是一个分布式的异步任务调度框架，类似于 Apache 的 airflow
6. celery 只是用来调度任务的，但它本身并不具备存储任务的功能，而调度任务的时候肯定是要把任务存起来的。因此要使用 celery 的话，还需要搭配一些具备存储、访问功能的工具，比如：消息队列、Redis缓存、数据库等等。官方推荐的是消息队列 RabbitMQ，我们使用 Redis
celery 使用场景
1. 异步任务
  1. 一些耗时的操作可以交给celery异步执行，而不用等着程序处理完才知道结果。
  2. 视频转码、邮件发送、消息推送等等
2. 定时任务
  1. 定时推送消息、定时爬取数据、定时统计数据等
3. 延迟任务
  1. 提交任务后，等待一段时间再执行某个任务
Celery官网
1. 开源地址（源码）https://github.com/celery/celery
2. 官网：https://docs.celeryq.dev/en/stable/
3. 最新版本Celery (5.3)
4. python支持
  1. Celery version 5.3 runs on Python ❨3.8, 3.9, 3.10, 3.11❩
5. Django支持
  1. Celery 5.3.x supports Django 2.2 LTS or newer versions. Please use Celery 5.2.x for versions older than Django 2.2 or Celery 4.4.x if your Django version is older than 1.11
Celery架构，Celery 架构，它采用典型的生产者-消费者模式，主要由以下部分组成：
1. Celery Beat：任务调度器，Beat 进程会读取配置文件的内容，周期性地将配置中到期需要执行的任务发送给任务队列。
2. Producer：需要在队列中进行的任务，一般由用户、触发器或其他操作将任务入队，然后交由 workers 进行处理。调用了 Celery 提供的 API、函数或者装饰器而产生任务并交给任务队列处理的都是任务生产者。
3. Broker，即消息中间件，在这指任务队列本身，Celery 扮演生产者和消费者的角色，brokers 就是生产者和消费者存放/获取产品的地方（队列）。
4. Celery Worker，执行任务的消费者，从队列中取出任务并执行。通常会在多台服务器运行多个消费者来提高执行效率。
5. Result Backend：任务处理完后保存状态信息和结果，以供查询。Celery 默认已支持 Redis、RabbitMQ、MongoDB、Django ORM、SQLAlchemy 等方式。
6. 实际应用中，用户从 Web 前端发起一个请求，我们只需要将请求所要处理的任务丢入任务队列 broker 中，由空闲的 worker 去处理任务即可，处理的结果会暂存在后台数据库 backend 中。我们可以在一台机器或多台机器上同时起多个 worker 进程来实现分布式地并行处理任务。

Celery 快速使用

安装
1. 创建Python项目
2. 创建虚拟环境
3. 安装celery pip install celery
4. 安装redis（消息队列和结果存储使用redis） pip install redis
5. 安装eventlet（win 平台）pip install eventlet

快速使用

celery_demo.py--主文件

from celery import Celery
import time

broker = 'redis://127.0.0.1:6379/1'
backend = 'redis://127.0.0.1:6379/2'
app = Celery('celery_test', broker=broker, backend=backend)


@app.task
def add(n, m):
    time.sleep(2)
    print('n+m的结果：%s' % (n + m))
    return n + m


@app.task
def send_email(mail='616564099@qq.com'):
    print('模拟发送延迟--开始')
    time.sleep(2)
    print('模拟发送延迟--结束')
    return '邮件发送成功：%s' % mail

add_task.py--提交异步任务

from celery_demo import add,send_email


##1 同步调用
res=send_email()
print(res)

# 2 异步调用
res = add.delay(10, 20)
print(res.id)

通过resp查看任务

开启worker celery -A celery_demo worker -l info -P eventlet

get_result.py-查看结果

from celery_demo import app

from celery.result import AsyncResult

id = 'd0ae78c8-9a8e-4f93-9d32-b17d4e295fe9'
if __name__ == '__main__':
    result = AsyncResult(id=id, app=app)
    if result.successful():
        result = result.get()
        print(result)
    elif result.failed():
        print('任务失败')
    elif result.status == 'PENDING':
        print('任务等待中被执行')
    elif result.status == 'RETRY':
        print('任务异常后正在重试')
    elif result.status == 'STARTED':
        print('任务已经开始被执行')

包结构

目录结构

项目名
    ├── celery_task  	# celery包
    │   ├── __init__.py # 包文件
    │   ├── celery.py   # celery连接和配置相关文件，且名字必须叫celery.py
    │   └── tasks.py    # 所有任务函数
    ├── add_task.py  	# 添加任务
    └── get_result.py   # 获取结果

celery.py

from celery import Celery
broker = 'redis://127.0.0.1:6379/1'
backend = 'redis://127.0.0.1:6379/2'
app = Celery(broker=broker, backend=backend, include=['celery_task.tasks'])

tasks.py

from .celery import app
import time
@app.task
def add(n, m):
    time.sleep(2)
    print('n+m的结果：%s' % (n + m))
    return n + m


@app.task
def send_email(mail='616564099@qq.com'):
    print('模拟发送延迟--开始')
    time.sleep(2)
    print('模拟发送延迟--结束')
    return '邮件发送成功：%s' % mail

执行异步--延迟--定时任务

异步任务 res = add.delay(10, 20)

延迟任务

rom datetime import datetime, timedelta
eta=datetime.utcnow() + timedelta(seconds=10)
tasks.add.apply_async(args=(200, 50), eta=eta)

定时任务

#1  celery.py中加入
# 时区
app.conf.timezone = 'Asia/Shanghai'
# 是否使用UTC
app.conf.enable_utc = False

# 任务的定时配置
from datetime import timedelta
from celery.schedules import crontab
app.conf.beat_schedule = {
    'low-task': {
        'task': 'celery_task.tasks.add',
        'schedule': timedelta(seconds=3),
        # 'schedule': crontab(hour=8, day_of_week=1),  # 每周一早八点
        'args': (300, 150),
    }
}

# 2 启动worker
celery -A celery_task worker -l debug -P eventlet

# 3 启动beat
celery -A celery_task beat -l debug

yjjpp2301

关注

23
点赞
踩
30

收藏

觉得还不错? 一键收藏
0
评论
分布式框架Celery

celery 是开源的，有很多的使用者celery 完全基于 Python 语言编写所以 celery 本质上是一个分布式的异步任务调度框架，类似于 Apache 的 airflowcelery 只是用来调度任务的，但它本身并不具备存储任务的功能，而调度任务的时候肯定是要把任务存起来的。因此要使用 celery 的话，还需要搭配一些具备存储、访问功能的工具，比如：消息队列、Redis缓存、数据库等等。官方推荐的是消息队列 RabbitMQ，我们使用 Redis。
复制链接

扫一扫