tomcat - Web Farming [Tomcat] 使用增量管理器性能问题

Question

我们正在进行网络农场 (Tomcat) 以实现可扩展性和增加吞吐量。但我们没有得到预期的结果。

场景 1-(独立 Tomcat)

Load Generator       Jmeter (One instance)
Server               Tomcat(One instance)
Throughput           21k per second

场景 2-(网络场场景)

Load Generator         Jmeter  [Three instances]  
Load Balancer          Nginx 
Server                 Tomcat [3 tomcats on three different machines]
Session Replication    Delta Manager
Throughput             30k per second

Jmeter配置:

No of Threads (users)         1000
Ramp up period (in seconds)   1
Loop count                    forever

现在我们不明白我们哪里做错了，因为如果一个 tomcat 可以每秒提供 21K，那么 3 个 Tomcat 逻辑上应该至少提供 50K。我们的 tomcat 配置如下所示

服务器.xml:

<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster" 
                        channelSendOptions="8">
                <Channel className="org.apache.catalina.tribes.group.GroupChannel">
                <Membership   className="org.apache.catalina.tribes.membership.McastService"
                                address="228.0.0.4"
                                port="45564"
                                frequency="500"
                                dropTime="3000"/>

                <Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
                <Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>
                </Sender>
                <Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
                                address="XXX.XXX.XXX.90"
                                port="4000"       
                                autoBind="100"
                                selectorTimeout="5000"
                                maxThreads="6"/>
                <Interceptor  className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>
                <Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor"/></Channel>
                <Valve className="org.apache.catalina.ha.tcp.ReplicationValve" filter=""/>
                <Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>
       <!--<ClusterListener className="org.apache.catalina.ha.session.JvmRouteSessionIDBinderListener"/>-->
                <ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>
                </Cluster>

上下文.xml:

<Manager className="org.apache.catalina.ha.session.DeltaManager"
                expireSessionsOnShutdown="false"
                notifyListenersOnReplication="true"/>

Answer 1

我建议您添加一些合理的加速，而不是保持 1 秒。

• 您能否检查您的负载平衡器是否能够处理网络农场的所有传入请求？
• 您能否确认这两个测试是否在同一网络中执行？

在某些情况下，我观​​察到 Web 服务器/负载均衡器无法处理传入请求，并且可能会限制吞吐量。在网络农场的情况下，还要注意资源利用率。如果请求进入，CPU 利用率应该与单个实例相当。