node.js - 使用 Node.js 一次处理 10,000 个并发请求

Question

我正在开发一个 Node.js 应用程序，该应用程序必须向大约 10,000 个用户提供实时服务器推送。我的目标是最小化第一个接收器和最后一个接收器之间的时间差。现在，我正在我的机器上进行本地开发。

我使用循环生成请求，然后阻止服务器响应，直到达到 10,0000 个请求。我希望服务器立即向所有请求广播并测量差异。

请求.js

var http = require('http')
, a = http.getAgent('127.0.0.1', 9202);

var util = require('util');
var connections = [];
var NUM_CONCURR = 1000;

// Max and Min
Array.prototype.max = function(){
  var max = this[0];
  var len = this.length;
  for(var i=0; i<len;i++)
    if(this[i]>max)
     max = this[i];
  return max;
};

 Array.prototype.min = function(){
   var min = this[0];
   var len = this.length;
   for(var i=0; i<len; i++)
     if(this[i]<min)
       min = this[i];
   return min;
 };

// Number of socket tested
a.maxSockets = Infinity;

for(var i =0; i<NUM_CONCURR; i++){
  http.get({
     agent: a,
     path: '/',
     port: 9202,
     host: '127.0.0.1'
   },function(res){
   connections.push(microtime(true));

   });

   util.log("Connected Clients: "+i);
 }

 util.log("Server running at port 9202");


 setInterval(function(){ 
    util.log("Total Diff Time = "+(connections.max()-connections.min()));
    connections =[];
 }, 1000*10);

 // Time function
 function microtime(get_as_float) {
     var now = new Date().getTime() / 1000;
     var s = parseInt(now);
     return (get_as_float) ? now : (Math.round((now - s) * 1000) / 1000) + ' ' + s;
 } 

服务器.js

var http = require('http'),
    HOST = 'localhost',
    PORT = '9202';

var connections = [], i;
var server = http.createServer(function(req, res){
  connections[connections.length] = {req:req, res:res};
  console.log('established connections: '+ ++i);
});  

// Send msg to stored connections

function message(){
  var i = connections.length, 
      connection;

  while(i--){
    connection = connections[i];
    connection.res.writeHead(200);
    connection.res.write('weeeee');
  }
};

//Broadcast after 40 sec

setTimeout(function(){
  message();
}, 1000*40);

server.listen(PORT);
console.log('listening on 9202');

由于某种原因，这对我不起作用。有更好的方法吗？有人可以分享他的想法吗？对你来说时差是多少？谢谢。

Answer 1

取决于各种事情。您不想在同一个盒子上测试请求/客户端和服务器端代码，以获得现实世界的性能。您也可能很容易用完 socket 。例如，MacOS 有一个人为限制，一旦受到限制，一切都会失效。

此外，关于客户端，我想我会使用像 apache bench 这样的工具，它内置了并发和分析功能。http://httpd.apache.org/docs/2.0/programs/ab.html