performance - jBoss 最大并发连接数

Question

我们目前正在开发一个将大型图像文件流式传输到客户端的 servlet。我们正在尝试确定使用 Apache mod_jk 负载均衡器在我们的集群中需要多少个 Jboss 节点。我知道处理单个请求大约需要 5000 毫秒。我想在这里使用论坛 http://people.apache.org/~mturk/docs/article/ftwai.html弄清楚有多少连接是可能的，但我遇到了一个问题，因为它们没有解释公式中的每一个数字。具体来说，他们说您应该将每台服务器的每个 cpu 请求限制为 200 个请求，但我不知道我是否应该在公式中使用它。我们使用的每个服务器都有 8 个内核，所以我认为论坛应该是这样的:

并发用户 = (500/5000) * 200 * 8 = 100 个并发用户

或者像这样:

并发用户 = (500/5000) * (200 * 8) * 8 = ~1200 个并发用户

他们指的是哪一个有很大的不同。如果他们的文档中没有示例，则很难说。谁能解释一下？

提前致谢。

Answer 1

我猜这些图像不是静态的，否则您会停在这一行吗？

First thing to ease the load from the Tomcat is to use the Web server for serving static content like images, etc..

即使没有，您遇到的问题也比 8 倍大:他的公式的目的是确定您可以处理多少个并发连接而 AART(平均应用程序响应时间)不超过 0.5 秒。您的应用程序需要 5 秒来处理单个请求。您使用的公式告诉您 9 位女性可以在一个月内生产一个婴儿。

如果您同意 0.5 秒是可接受的最大 AART，那么您首先必须能够在 <=0.5 秒内处理单个请求。

否则，您需要将他的以毫秒 (500) 为单位的最大 AART 值替换为您的值(必须大于或等于您的实际 AART)。

最后，关于他的 CPU 术语是否应该考虑内核的问题:它会根据 CPU 和工作负载而有所不同。如果您提供大图像，您可能受 IO 限制，而不是 CPU 限制。你需要测试。

最大化 Tomcat 的线程池并添加更多负载，直到找到 AART 降级的点。这是你对他等式后半部分的实际值(value)。但此时您可以通过确定 AART 何时超过最大值来继续测试并查看“并发用户数”的实际值。