performance - 使用 nginx 进行负载均衡

Question

如果这些服务器上的负载超过某个水平，我想停止向我的后端服务器提供请求服务。任何已经在网站上冲浪的人仍然会被路由，但新连接将被发送到静态服务器繁忙页面，直到负载降至预定水平以下。

我可以使用 cookie 让当前客户进入，但我找不到有关如何根据自定义负载指标进行路由的信息。

谁能指出我正确的方向？

Answer 1

Nginx 有一个 HTTP Upstream负载均衡模块。使用 max_fails 和 fail_timeout 选项检查后端服务器的响应能力。当没有后端可用时路由到备用页面是使用 backup 选项完成的。我建议将您的负载指标转换为 Nginx 提供的选项。

假设当负载高于您的预期时，Nginx 仍将后端视为“启动”。您可以通过调整后端服务器的最大连接数来进一步调整。所以，也许后端服务器在负载过高之前只能处理 5 个连接，所以你调整它只允许 5 个连接。然后在前端，Nginx 会在尝试发送第六个连接时立即超时，并将该服务器标记为不可用。