java - 系统无法扩展以支持并发用户

Question

我在扩展系统上的并发用户数时遇到了问题。根据我的测试，扩展并发用户数似乎会直接增加请求的持续时间，呈线性关系。

我正在运行部署在具有 16Gb RAM 的(虚拟)Ubuntu 四核计算机上的 Java Web 应用程序。我正在使用 Apache Tomcat 7 和 MySQl 5.5 数据库。 Tomcat 和 MySQL 使用默认设置 - 我没有以任何方式配置它们。

我正在使用 Apache Benchmark 运行大量测试，最终创建一个 SQL 查询以返回一行数据，其中响应大小非常小。

我使用 Spring 的 JDBCTemplate 和 Apache Commons BasicDataSource。 spring bean 的配置如下所示。

<!-- READ ONLY CONNECTION TO DATABASE -->
<bean id="dataSource" class="org.apache.commons.dbcp.BasicDataSource" destroy-method="close">
  <property name="driverClassName">
    <value>com.mysql.jdbc.Driver</value>
  </property>
  <property name="username">
    <value>${database.username}</value>
  </property>
  <property name="password">
    <value>${database.password}</value>
  </property>
  <property name="url">
    <value>${database.url}/${database.schema}</value>
  </property>
  <property name="timeBetweenEvictionRunsMillis" value="7200000" />
  <property name="minEvictableIdleTimeMillis" value="3600000" />
  <property name="maxActive" value="100" />
  <property name="maxIdle" value="5" />
  <property name="defaultAutoCommit" value="false" />
  <property name="defaultReadOnly" value="true" />
</bean>

<bean id="myDao" class="...">
   <property name="jdbcTemplate" ref="jdbcTemplate"></property>
   <property name="dataSource" ref="dataSource"></property>
</bean>

<bean id="jdbcTemplate" class="org.springframework.jdbc.core.JdbcTemplate">
   <property name="dataSource" ref="dataSource" />
</bean>

我的创建几个查询的 Java 方法使用@Transactional 注释。

这些是我的测试结果:

• 1 个请求需要 0.2 秒。
• 10 个请求(同时执行)需要 0.9 秒。

因此您可以看到我的应用程序没有缩放。我不确定问题的原因可能是什么。任何人都可以看到我做错了什么或建议我可以进一步调查的方法吗？

提前致谢

菲尔

更新

更多指标:

  1 Request,  Concurrency   1 = 0.22s 10 Requests, Concurrency  10 = 0.6s (mean), 0.5(min)100 Requests, Concurrency 100 = 7 (mean), 3.7(min)300 Requests, Concurrency 300 = 12s (mean), 4.3(min)300 Requests, Concurrency 300 = 18s (mean), 6.4(min)

响应大小为 1kb。

尝试相同的请求并更改并发:

300 Requests, Concurrency   8 = total time: 14.9s300 Requests, Concurrency  20 = total time: 15.3s300 Requests, Concurrency 300 = total time: 24s

因此，将并发数减少到 8 比并发数 300 快 10 秒。从 8 增加会减慢交易速度。 8 似乎是最佳并发数。

Answer 1

尝试使应用程序并发时，需要考虑一些事项。

首先，仅仅因为您的服务器有四个内核，并不意味着它们对您的 JVM 都可用，您需要询问运行时以查看有多少可用，并且在技术上也可以在JVM，虽然很少见。

接下来，您需要考虑环境的物理拓扑。数据库是否与应用程序在同一台服务器上运行？如果是这样，您在处理和 IO 方面有额外的资源争用，而不仅仅是您的应用程序正在做什么。

了解这些要点后，您需要考虑应用程序的 IO 与处理配置文件。例如，查找质数并将它们输出到系统日志的应用程序实际上是 100% 的处理与 0% 的 IO。在这种类型的应用程序中，在您的应用程序中拥有比可用内核更多的线程是没有意义的，因为内核将不断忙于它们正在做的事情，而任务切换的开销实际上会减慢您的应用程序。

与数据库紧密相关的应用程序通常具有相对较高的 IO 到处理配置文件，尽管如果您仅读取该配置文件，则该配置文件会减少 IO 限制，并且对于定义明确的数据库，这些读取相对较小，其中查询的数据是逻辑布局。 DB 的大小也会影响 IO，具体取决于整个 DB 集是否可以保留在内存中或是否正在发生磁盘分页。

如果您不熟悉并发，我强烈建议您阅读 Brian Goetz 的 Java Concurrency in Practice。话虽这么说，您正在采取明智的方法，按原样分析您的应用程序。