Celery

作者: LittleBear_6c91 | 来源:发表于2019-05-16 21:12 被阅读0次

Celery 是 Distributed Task Queue,分布式任务队列列,分布式决定了了可以有多个 worker 的存
在,队列列表示其是异步操作,即存在⼀一个产⽣生任务提出需求的⼯工头,和⼀一群等着被分配⼯工作的
码农。
在 Python 中定义 Celery 的时候,我们要引⼊入 Broker,中⽂文翻译过来就是“中间⼈人”的意思,在
这⾥里里 Broker 起到⼀一个中间⼈人的⻆角⾊色。在⼯工头提出任务的时候,把所有的任务放到 Broker ⾥里里
⾯面,在 Broker 的另外⼀一头,⼀一群码农等着取出⼀一个个任务准备着⼿手做。
什什么是backend?
通常程序发送的消息,发完就完了了,可能都不不知道对⽅方时候接受了了。为此,celery实现了了⼀一个
backend,⽤用于存储这些消息以及celery执⾏行行的⼀一些消息和结果。
Celery 主要包含以下⼏几个模块:
任务模块 Task
包含异步任务和定时任务。其中,异步任务通常在业务逻辑中被触发并发往任务队列列,⽽而定时
任务由 Celery Beat 进程周期性地将任务发往任务队列列。
消息中间件 Broker
Broker,即为任务调度队列列,接收任务⽣生产者发来的消息(即任务),将任务存⼊入队列列。
Celery 本身不不提供队列列服务,官⽅方推荐使⽤用 RabbitMQ 和 Redis 等。
任务执⾏行行单元 Worker
Worker 是执⾏行行任务的处理理单元,它实时监控消息队列列,获取队列列中调度的任务,并执⾏行行它。
任务结果存储 Backend
Backend ⽤用于存储任务的执⾏行行结果,以供查询。同消息中间件⼀一样,存储也可使⽤用
RabbitMQ, redis 和 MongoDB 等。
MQ全称为Message Queue, 消息队列列(MQ)是⼀一种应⽤用程序对应⽤用程序的通信⽅方法。MQ是
消费-⽣生产者模型的⼀一个典型的代表,⼀一端往消息队列列中不不断写⼊入消息,⽽而另⼀一端则可以读取
队列列中的消息。
RabbitMQ是MQ的⼀一种
安装RabbitMQ
sudo apt-get install rabbitmq-server
启动RabbitMQ
sudo rabbitmq-server -detached
停⽌止RabbitMQ
sudo rabbitmqctl stop
设置RabbitMQ
sudo rabbitmqctl add_user carmack 123456
sudo rabbitmqctl add_vhost myvhost
sudo rabbitmqctl set_user_tags carmack mytag
sudo rabbitmqctl set_permissions -p myvhost carmack "." "." ".*"
rabbitmqctl list_queues -p myvhost
安装celery
pip install celery -i https://pypi.douban.com/simple
broker_url = 'amqp://carmack:123456@localhost:5672/myvhost'
运⾏行行celery worker
nohup celery -A tasks worker --loglevel=info &
执⾏行行任务

from tasks import add
result = add.delay(4, 4)
result.ready()
result.get(timeout=1)
result.status
result.id

相关文章

网友评论

      本文标题:Celery

      本文链接:https://www.haomeiwen.com/subject/cfwwaqtx.html