algorithm - 在一组服务器之间分配请求的最佳负载平衡算法？

Question

在一组服务器之间分配传入请求的负载平衡算法是哪种更好？我读过它们是一些算法，例如 Round Robin.. 但我想知道您对此有更好或至少最常用的算法的看法。

希望大家帮帮我。

Answer 1

答案是:视情况而定。当考虑特定于服务的多个因素时，可以实现最佳负载平衡。例如，假设您有一项服务提供 API 来对字符串进行编码，其中编码完全取决于字符串的内容。您有 N 个正在运行的服务副本。

一种简单的方法是让客户端选择服务索引 i = hash(string)/N。假设输入字符串均匀分布在散列空间上，这将工作得很好并且很容易实现。

现在说出于某种原因，由于某种原因，字符串在散列空间上分布不均(例如，可能会重复很多字符串)。在这种情况下，您可以使用一种简单的方法进行循环，或随机选择一个索引。您还可以测量来自服务器的背压:例如，如果 RPC 调用是同步的，您可以在客户端测量它需要多长时间，并且在字符串编码的情况下，将其除以字符串;如果客户端注意到此数字上升，则可能意味着服务无法跟上，客户端可以减少发送给此类客户端的流量。这显然有点复杂。

TLDR:负载均衡有很多选项，哪一个是“最好的”取决于要扩展的问题的具体性质。