javascript - 对 setTimeout 的并发调用导致比预期更多的延迟

Question

我正在做一个 Node 性能的小型演示，我很惊讶地看到以下示例对 setTimeout 的 50 个并发调用花费了 4 秒而不是 500 毫秒。

以下代码设置了一个非常简单的快速服务器，它监听所有请求，并在 500 毫秒后使用 setTimeout 响应。然后它有一个客户端发出 50 个请求，传递一个数字来跟踪请求和相应的响应。

// SERVER
var express = require('express');
var app = express();

app.get('*', function (req, res) {
    setTimeout(function () {
        return res.send(req.query.i);
    }, 500);
});

app.listen(8099);

// CLIENT
var http = require('http');

function start() {
    for (var i = 0; i < 50; i++) {
        console.log(new Date().getSeconds() + ':' + new Date().getMilliseconds() + ' - Sending ' + i);
        http.get('http://localhost:8099?i=' + i, responseHandler);
    }

    function responseHandler(res) {
        res.on('data', function (body) {
            return console.log(new Date().getSeconds() + ':' + new Date().getMilliseconds() + ' - Received ' + body);
        });
    }
}

start();

我预计代码会花费 30-50 毫秒来完成所有 setTimeout 调用，然后在 500 毫秒后，所有这些调用都会在大约同一时间做出响应。相反，我看到他们以 5 人为一组进行响应，每组 5 人之间间隔 500 毫秒。

我尝试了一些更简单的替代方案，它们都解决了这个问题。如果我取出 setTimeout 并立即响应，所有 50 个响应都会在 100 毫秒内完成。如果我将 Web 服务器排除在等式之外，只对 setTimeout 进行 50 次调用，那么所有 50 次调用都会立即排队，并且所有 50 次调用会在 500 毫秒后同时返回。

当 express 和 http 调用与 setTimeout 结合使用时，可能会导致额外延迟的原因是什么？

Answer 1

这个问题与 setTimeout 无关(正如您在没有客户端/服务器设置的情况下运行测试时可能已经猜到的那样)。问题是 Node http 服务器在任何给定时间将处理的打开的 HTTP 套接字的数量。

控制它的设置是 Agent.maxSockets(有关更多信息，请参阅 documentation)。

maxSockets 的默认值为 5。因此，如果您向您的应用发送 50 个请求，它将一次处理其中的 5 个，直到它们完成，然后再继续处理新请求。由于它们在 setTimeout 函数调用它们的回调之前无法完成，因此您的请求将以大约每 500 毫秒 5 次的突发响应。

如果你想证明这一点，你所要做的就是改变 maxSockets 的值:

http.globalAgent.maxSockets = 10;

现在您会看到请求以 10 个为一组的方式处理。如果您将它设置为 50，您应该会看到您正在寻找的行为。

请注意，它可能设置为 5 是有充分理由的，所以我不认为您的问题的“解决方案”只是将 maxSockets 设置为 Infinity 或像那样可怕的东西。

mscdex 在评论中指出，您可以在 http.request 中指定一个 cusotm 代理，并且还会对 Node 中的默认 maxSockets 进行更改v0.12.