linux - ubuntu crontab celery 节拍

Question

我有几个通过节拍执行的 celery 任务。在开发中，我使用一个命令来设置它，例如:

celery worker -A my_tasks -n XXXXX@%h -Q for_mytasks -c 1 -E -l INFO -B -s ./config/celerybeat-schedule --pidfile ./config/celerybeat.pid

在进入生产环境时，我将其插入激活我的 venv 的脚本中，设置 PYTHONPATH，删除旧的 beat 文件，cd 到正确的目录，然后运行 ​​celery。这绝对没问题。但是，在生产中我想将工作人员与节拍调度程序分开，例如:

celery worker -A my_tasks -n XXXXX@%h -Q for_mytasks -c 1 -E -l INFO -f ./logs/celeryworker.log
celery beat -A my_tasks -s ./config/celerybeat-schedule --pidfile ./config/celerybeat.pid -l INFO -f ./logs/celerybeat.log

现在，当放入相关的 bash 脚本时，一切正常。但是，我需要这些在服务器启动时运行。我遇到了几个问题:

1) 在 crontab -e @reboot my_script 中将不起作用。我必须插入延迟以允许 rabbitmq 完全启动，即 @reboot sleep 60 && my_script。现在这对我来说似乎有点“困惑”，但我可以接受。

2) celery worker 需要几秒钟才能完成 celery beat 才能正常运行。我尝试了各种 cron 指令来完成在工作人员成功执行但无法运行节拍后运行的节拍。我目前在 crontab 中的解决方案是这样的:

@reboot sleep 60 && my_script_worker
@reboot sleep 120 && my_script_beat

所以基本上，ubuntu 启动，等待 60 秒并运行 celery worker，然后再等待 60 秒，然后再运行 celery beat。这很好用，但对我来说似乎更“困惑”。在理想情况下，我想在 rabbitmq 准备好运行 worker 时进行标记，然后在 worker 成功执行时进行标记，以便我可以运行 beat。

我的问题是:有没有人遇到过这个问题，如果遇到过，他们是否有更优雅的方式来启动 celery worker 并在服务器重启时击败？

编辑:24/09/2019感谢 DejanLekic 和 Greenev

我花了几个小时从 cron 转换到 systemd。是的，我完全同意这是一个更强大的解决方案。我的 celery worker 和 beat 现在由 systemd 在重启时作为服务启动。

对于尝试此操作的人，我有一个提示，但在 celery 文档中并未提及。模板 beat 命令将在您的工作目录中创建一个名为 celerybeat-schedule 的“celery beat 数据库”文件。如果你重新启动你的节拍服务，这个文件将导致生成似乎不符合你实际 celery 计划的虚假 celery 任务。解决办法是每次beat服务启动的时候删除这个文件。我还删除了 pid 文件(如果存在)。我通过向节拍服务添加 2 个 ExecStartPre 和一个 -s 选项来做到这一点:

ExecStartPre=/bin/sh -c 'rm -f ${CELERYBEAT_DB_FILE}'
ExecStartPre=/bin/sh -c 'rm -f ${CELERYBEAT_PID_FILE}'
ExecStart=/bin/sh -c '${CELERY_BIN} beat  \
  -A ${CELERY_APP} --pidfile=${CELERYBEAT_PID_FILE} \
  -s ${CELERYBEAT_DB_FILE} \
  --logfile=${CELERYBEAT_LOG_FILE} --loglevel=${CELERYD_LOG_LEVEL}'

谢谢你们。

Answer 1

我们使用 systemd 来守护 celery worker，因此 worker 和 beat 可以作为单独的服务运行，并配置为在服务器重启时启动，只需启用这些服务