美文网首页
Celery笔记

Celery笔记

作者: 你猜_19ca | 来源:发表于2019-02-16 11:15 被阅读0次

Celery 预取机制

Celery 默认启动预取机制,即如果有多个worker,会平均分配给多个worker,如果其中一个worker做了长时间耗时操作,则会影响已被预取的下一个task,为了避免此情况,可以在启动时加-Ofair取消预取机制, 这样就是执行完成一个,再取一个。
celery -A mytask worker --loglevel=info -Ofair
如果是在django里配置celery 需要在celery.py里添加如下内容, 启动的时候带上-Ofair

#  需要放在config_from_object调用之前, 否则不生效
app.conf.CELERY_ACKS_LATE = True
app.conf.CELERYD_CONCURRENCY = 1 # 可选
app.conf.CELERYD_PREFETCH_MULTIPLIER = 1

app.config_from_object('django.conf:settings', namespace='CELERY')

app.conf.CELERY_ACKS_LATE一定要放在config_from_object之前,否则不生效
可参考:https://stackoverflow.com/questions/16040039/understanding-celery-task-prefetching/33357180#33357180

windos和linux下celery的区别

  • windows无法用celery multi 后台命令
    原因是celery multi命令会调resource模块,windows没有该模块
  • 取消预存取机制区别
    都需要配置:
app.conf.CELERY_ACKS_LATE = True
app.conf.CELERYD_CONCURRENCY = 1 # 可选
app.conf.CELERYD_PREFETCH_MULTIPLIER = 1

windowns下启动:
celery -A mytask worker --loglevel=info -P eventlet -Ofair

linux下启动
celery -A mytask worker --loglevel=info -P eventlet

收不到broker消息问题

不管是Linux还是windows,启动的时候都要带-P eventlet,否则不能触发事件执行

相关文章

  • celery笔记

    作者:刘宾, thomas_liub@hotmail.com 请尊重作者著作权,转载请注明出处,谢谢! 分布式任...

  • Celery笔记

    1. Celery介绍 Celery is an asynchronous task queue/job queu...

  • Celery笔记

    Celery 预取机制 Celery 默认启动预取机制,即如果有多个worker,会平均分配给多个worker,如...

  • Celery笔记

    https://www.cnblogs.com/pyedu/p/12461819.html[https://www...

  • celery4.x不兼容的完美解决方法(附安装celery详细步

    celery官方文档 || celery中文文档 Celery 简介 celery适用异步处理问题,当发送邮件、或...

  • Celery学习笔记

    Celery 是一个由 Python 编写的简单、灵活、可靠的用来处理大量信息的分布式系统,它同时提供操作和维护分...

  • celery学习笔记

    Celery 标签(空格分隔): celery Celery是一个分布式任务队列工具,是一个异步的任务队列基于分布...

  • celery学习笔记

    http://docs.celeryproject.org/en/latest/getting-started/f...

  • celery学习笔记

    ceelry是一个专注于实时处理和任务调度的分布式任务队列。 使用celery的常见场景如下: web应用。当用户...

  • django-celery-beat使用

    django-celery-beat使用 一、引入django-celery-beat包: 二、定义celery ...

网友评论

      本文标题:Celery笔记

      本文链接:https://www.haomeiwen.com/subject/kxsbeqtx.html