python - 如何在不同的机器上设置 celery worker ？

Question

我是 celery 新手。我知道如何安装和运行一台服务器，但我需要将任务分发到多台机器上。我的项目使用 celery 将传递给 Web 框架的用户请求分配给不同的机器，然后返回结果。我阅读了文档，但没有提到如何设置多台机器。我错过了什么？

Answer 1

我的理解是，您的应用会将请求推送到队列系统(例如 rabbitMQ)，然后您可以在不同的机器上启动任意数量的工作人员(可以访问与提交任务的应用相同的代码)。他们将从消息队列中挑选出任务，然后开始处理它们。完成后，他们将更新墓碑数据库。

这样做的结果是您不必做任何特别的事情来启动多个 worker 。只需在不同的相同(相同源代码树)机器上启动它们。

拥有消息队列的服务器不必与拥有worker的服务器相同，也不必与提交作业的机器相同。您只需将消息队列的位置放在 celeryconfig.py 中，所有机器上的所有工作人员都可以从队列中提取作业来执行任务。