javascript - 使用速率限制器的 Promisify 回调

Question

我正在做一个项目，我必须遍历几个 api，并在每个 api 上下载多个页面。我的代码使用回调工作，但我不确定如何在最后一个 http 请求完成后运行代码。

const RateLimiter = require('limiter').RateLimiter;
const limiter = new RateLimiter(1, 'second');

request(url,{json:true}function(err,res,body){
    let bunchOfURLs = body['bunchOfURLs'];
    for(let i = 0; i < bunchOfURLs.length;i++){
        limiter.removeTokens(1,function(){
            request(bunchOfURLs[i],{json:true},function(err2,res2,body2){
                let moreURLs = body2['moreURLs'];
                for(let j = 0; j < moreURLs.length;j++){
                    request(moreURLs[j],function(err3,res3,body3){
                        // Once all downloads are done console.log('Done!')
                    });     
                }           
            });     
        }
    }
});

我认为正确的做法是将所有函数嵌套在 promise 中，并在每个函数上使用 Promise.all。问题出在速率限制器上，我认为在调用 Promise.all 之前，嵌套的 promises 不会添加到 promises 数组中。

const RateLimiter = require('limiter').RateLimiter;
const limiter = new RateLimiter(1, 'second');

request(url,{json:true}function(err,res,body){
    let bunchOfURLs = body['bunchOfURLs'];
    let promises = [];
    for(let i = 0; i < bunchOfURLs.length;i++){
        promises.push(new Promise((resolve,reject)=>{
            limiter.removeTokens(1,function(){
                request(bunchOfURLs[i],{json:true},function(err2,res2,body2){
                    let moreURLs = body2['moreURLs'];
                    for(let j = 0; j < moreURLs.length;j++){
                        // I dont' think these will be added
                        promises.push(new Promise((resolve,reject)=>{
                            request(moreURLs[j],function(err3,res3,body3){
                                resolve();
                            });                                 
                        }))
                    }           
                });     
            }           
        }))
    }
    Promise.all(promises).then(()=>{console.log('Done!')});
});

Answer 1

如果您计划将 Promises 与 limiter 模块一起使用，那么您可能需要创建一个简单的包装器方法来删除 token 。使用 request-promise 模块或创建另一个简单的包装器来发出请求也是理想的选择。

看起来像这样:

function removeTokens(tokens) {
    return new Promise((resolve) => {
        limiter.removeTokens(tokens, resolve);
    });
}

request(url, {json: true}).then((body) => {
    let promises = body['bunchOfURLs'].map((url2) => {
        return removeTokens(1).then(() => {
            return request(url2, {json:true}).then((body2) => {
                let promises2 = body2['moreURLs'].map((url3) => {
                    return request(url3);
                });
                return Promise.all(promises2);
            }); 
        });
    });
    return Promise.all(promise);
});

如果您选择创建一个简单的包装器而不是 request-promise:

function requestJSON(url) {
    return Promise((resolve, reject) => {
        request(url, {json: true}, (err, res, body) => {
            if (err) {
                reject(err);
            } else {
                resolve(body);
            }
        });
    });
}

跟进编辑。您可以通过捕获错误并再次执行请求来处理“重试”。

requestJSON(url).catch((err) => {
    if (err.code === 'ECONNTIMEOUT' || err.code === 'ECONNRESET') {
        return requestJSON(url)
    } else {
        return Promise.reject(err);
    }
});

您可能需要添加一些逻辑以在一定次数后停止，否则这可能会陷入无限循环。