linux - 如何水平缩放http请求？

Question

好吧，假设我有一个简单的网络服务器实例，它总是响应“Hello world”，而这个简单的服务器只能同时处理 1K 个连接。

我必须同时处理 1M 个 http 请求，所以我用我的网络服务器实例克隆了 1K 个节点。

但我只有一个入口点。所有请求都通过一个点。

那么应该将什么作为委托(delegate)请求的入口点？什么软件可以将 1M 请求传输到 1K 网络服务器？

Answer 1

如果您使用循环 DNS，请求可以通过多个点。

如果您想要在 Linux 上使用反向代理软件，Nginx 是您的不二之选。

node-http-proxy 似乎也很流行。

Golang 的 httputil 包中内置了一个 ReverseProxy。

(如果我没记错的话，以上三个都将在 Linux 上使用 epoll。但是不能保证任何软件总是可以处理 1M 连接。这取决于很多因素。)

负载平衡是一个广泛的话题。以下是一些阅读链接:

https://en.wikipedia.org/wiki/Round-robin_DNS

https://en.wikipedia.org/wiki/C10k_problem

https://en.wikipedia.org/wiki/Clustered_web_hosting

https://en.wikipedia.org/wiki/Reverse_proxy

https://en.wikipedia.org/wiki/Load_balancing_(computing)