node.js - 简化 Node.js 服务器的速率限制算法

Question

我为 Node.js 服务器的速率限制算法提出了一个天真的解决方案，我相信有一种方法可以简化它，但我不确定如何实现。

我们希望将请求限制为每秒 50 个。所以如果最新的请求进来，并且最新的请求和前50位的请求之间的时间小于一秒，我们应该拒绝新的请求。

实现这个的天真的方法是有一个包含 50 个时间戳的简单数组。每次发生事件时，我们都会为其分配一个值 Date.now()/process.hrtime()。然后我们查看队列中第 50 个(最后一个)时间戳的时间戳值和新请求的 Date.now() 值，如果时间戳的差异大于 1 秒，那么我们接受新请求并将其取消转移到“队列”，并从队列中弹出最旧的时间戳。但是，如果差异小于 1 秒，我们必须拒绝该请求，并且我们不会将其移到队列中，也不会弹出最旧的时间戳。

这是我在 Express 服务器上的代码

var mostRecentRequestsTimestamps = [];

app.use(function(req,res,next){

    if(req.baymaxSource && String(req.baymaxSource).toUpperCase() === 'XRE'){

        var now = process.hrtime(); //nanoseconds

        if(mostRecentRequestsTimestamps.length < 50){
            mostRecentRequestsTimestamps.unshift(now);
            next();
        }
        else{
            var lastItem = mostRecentRequestsTimestamps.length -1;
            if(now - mostRecentRequestsTimestamps[lastItem] < 1000){  // 1000 milliseconds = 1 second
                res.status(503).json({error: 'Server overwhelmed by XRE events'});
            }
            else{
                mostRecentRequestsTimestamps.pop();
                mostRecentRequestsTimestamps.unshift(now);
                next();
            }
        }
    }
    else{
        next();
    }

});

如您所见，它只会阻止来自某个特定来源的事件，因此它不应该让其他类型的请求挨饿。这个逻辑需要一个包含 50 个时间戳的数据结构，这基本上没什么，但如果可能的话，我想要一种进一步简化它的方法。有人有主意吗？谢谢

Answer 1

这是我能做到的最简单的:

// oldest request time is at front of the array
var recentRequestTimes = [];
var maxRequests = 50;
var maxRequestsTime = 1000;

app.use(function(req,res,next){
    if(req.baymaxSource && String(req.baymaxSource).toUpperCase() === 'XRE'){
        var old, now = Date.now();
        recentRequestTimes.push(now);
        if (recentRequestTimes.length >= maxRequests) {
            // get the oldest request time and examine it
            old = recentRequestTimes.shift();
            if (now - old <= maxRequestsTime) {
                // old request was not very long ago, too many coming in during that maxRequestsTime
                res.status(503).json({error: 'Exceeded 50 requests per second for XRE events'});
                return;
            }
        }
    }
    next();
});

这在概念上与您的实现有两个方面的不同:

1. 我按升序使用 recentRequestTimes 数组(这对我的编程大脑来说更符合逻辑)
2. 我总是将每个请求添加到数组中，即使它已经过载。您没有计算过载的请求，我认为这是错误的。这也简化了代码，因为您可以在一个地方的函数开始处添加当前时间，然后只处理数组。