Python中celery的简单使用

1.什么是Clelery

- Celery是一个简单、灵活且可靠的，处理大量消息的分布式系统
专注于实时处理的异步任务队列
同时也支持任务调度
- Celery 通过消息机制进行通信，通常使用中间人（Broker）作为客户端和职程（Worker）调节。启动一个任务，客户端向消息队列发送一条消息，
然后中间人（Broker）将消息传递给一个职程（Worker），最后由职程（Worker）进行执行中间人（Broker）分配的任务。

2、Celery架构

Celery的架构由三部分组成，消息中间件（message broker），任务执行单元（worker）和任务执行结果存储（task result store）组成。

3、消息中间件

Celery本身不提供消息服务，但是可以方便的和第三方提供的消息中间件集成。包括，RabbitMQ, Redis等等

4、任务执行单元

Worker是Celery提供的任务执行的单元，worker并发的运行在分布式的系统节点中。

5、任务结果存储

Task result store用来存储Worker执行的任务的结果，Celery支持以不同方式存储任务的结果，包括AMQP, redis等

6、使用场景

异步任务：将耗时操作任务提交给Celery去异步执行，比如发送短信/邮件、消息推送、音视频处理等等

定时任务：定时执行某件事情，比如每天数据统计

7、Celery的安装配置

pip install celery

消息中间件：RabbitMQ/Redis

app=Celery('任务名'，backend='xxx',broker='xxx')

8、目前发行的依赖包如下：

• 序列化
  celery[auth]：使用auth保证程序的安全

  celery[msgpack]：使用msgpack序列化

  celery[yaml]：使用yaml序列化

• 并发

  celery[eventlet]：基于 eventle 的并发池

  celery[gevent]：基于 gevent 的并发池

celery工作原理