redis - 我如何在任何 MQ 平台中实现这个单并发分布式队列？

Question

我目前正在努力寻找实现特定类型队列的解决方案，它需要以下特征:

1. 所有队列必须遵守作业添加的顺序。
2. 整个队列的并发度为 1，这意味着每个队列一次只会执行一个作业，而不是工作线程。
3. 这样的队列将超过几千个。
4. 它需要分布式并且能够扩展(例如，如果我添加一个 worker )

基本上它是一个单进程 FIFO 队列，这正是我在试用不同的消息队列软件(如 ActiveMQ 或 RabbitMQ)时想要的，但是一旦我将它扩展到 2 个工作线程，它就无法工作，因为在这种情况下我希望它扩展并保持与单进程队列完全相同的特性。下面我附上了它应该如何在具有多个 worker 的分布式环境中工作的描述。

拓扑示例:(请注意，Queue 和 Workers 之间是多对多的关系)

运行示例:

+------+-----------------+-----------------+-----------------+
| Step | Worker 1        | Worker 2        | Worker 3        |
+------+-----------------+-----------------+-----------------+
| 1    | Fetch Q/1/Job/1 | Fetch Q/2/Job/1 | Waiting         |
+------+-----------------+-----------------+-----------------+
| 2    | Running         | Running         | Waiting         |
+------+-----------------+-----------------+-----------------+
| 3    | Running         | Done Q/2/Job/1  | Fetch Q/2/Job/2 |
+------+-----------------+-----------------+-----------------+
| 4    | Done Q/1/Job/1  | Fetch Q/1/Job/2 | Running         |
+------+-----------------+-----------------+-----------------+
| 5    | Waiting         | Running         | Running         |
+------+-----------------+-----------------+-----------------+

可能这不是最好的表示，但它表明，即使在 Queue 1 和 Queue 2 中，也有更多的工作，但 Worker 3 确实在上一个作业完成之前不开始获取下一个作业。

这是我努力寻找好的解决方案。

我已经尝试了很多其他解决方案，例如 rabbitMQ、activeMQ、apollo...这些让我可以创建数千个队列，但在我尝试时，所有这些都将使用 worker 3 来运行队列中的下一个作业。并且并发是每个 worker

是否有任何解决方案可以在任何 MQ 平台(例如 ActiveMQ、RabbitMQ、ZeroMQ 等)中实现这一点？

谢谢你:)

Answer 1

您可以使用带有附加"dispatch"队列的 Redis 列表来实现此目的，所有工作人员 BRPOP 都在该队列上完成他们的工作。调度队列中的每个作业都标记有原始队列 ID，当工作人员完成作业时，它会转到该原始队列并在调度队列上执行 RPOPLPUSH 以使下一个作业可用于任何其他 worker 。因此，调度队列最多有 num_queues 个元素。

您必须处理的一件事是当源队列为空时调度队列的初始填充。这可能只是发布者针对最初设置的每个队列的“空”标志所做的检查，并且当原始队列中没有任何东西要分派(dispatch)时也由工作人员设置。如果设置了这个标志，发布者可以直接LPUSH第一个作业到调度队列。