performance - EC2机器或网络有什么限制吗？

Question

我在 Amazon EC2 上有 2 个实例。一个是t2.micro机器作为web缓存服务器，另一个是性能测试工具。

当我开始测试时，TPS(每秒事务数)约为 3000。但几分钟后，TPS 已降至 300。

一开始以为CPU积分余额用完了，但是处理请求已经够用了。在一次测试中，web缓存的最大输出流量为500Mbit/s，CPU使用率为60%，空闲内存绰绰有余。

我找不到任何导致 TPS 下降的原因。 EC2机器或网络有什么限制吗？

Answer 1

有几个因素可能会限制您的流程。

T2 实例上的 CPU 积分

正如您所提到的，T2 instances使用积分来爆破 CPU。它们是非常强大的机器，但每个实例仅限于一定数量的 CPU。 t2.micro 实例获得了 10% 的 CPU，这意味着它们实际上只有 10% 的时间(在低毫秒分辨率下)获得了 100% 的 CPU。

实例以 CPU 积分开始以快速启动，当 CPU 的使用速度快于获得积分时，这些积分会被消耗。但是，您说贷方余额足够，所以这似乎不是原因。

网络带宽

每个 Amazon EC2 实例都可以使用一定的网络带宽吞吐量。较小的实例具有“低”带宽，较大的实例具有更多。没有关于带宽大小的官方声明，但这是来自 Serverfault 的有趣引用:Bandwidth limits for Amazon EC2

磁盘 IOPS

如果您的应用程序对每个事务都使用磁盘访问，并且您的实例使用的是通用型 (SSD) 实例类型，那么您的磁盘可能已经消耗了所有可用的突增积分。如果您的磁盘很小，这可能意味着它将运行缓慢(速度为每 GB 3 IOPS，因此 20GB 磁盘将以 60 IOPS 运行)。查看Amazon CloudWatch VolumeQueueLength metric查看 IO 是否过度排队。

别的东西

速度变慢也可能是由于您的应用程序或缓存系统(例如，用于存储数据的可用内存不足)。