java - 了解 Google Cloud Platform 上的实例小时数

Question

在 Google Cloud Platform (GCP) 上，我的 Java 应用程序在标准 App Engine (GAE) 上运行。昨天我部署了应用程序。作为该应用程序的唯一用户(直到它上线)，我注意到启动时间(也称为“预热”)在发出第一个请求时大约需要 15 到 30 秒。如果我继续每隔几秒发出一次请求，响应时间就会很快(大约一秒或更短)。但是，如果我在大约 10 秒后没有发出请求，下一个请求通常需要 15 到 30 秒才能返回。这告诉我 GAE 识别出超过 10 秒的空闲时间并决定终止该实例。

当然这是不好的。即使应用程序确实上线，最初也只有少量用户，并且请求之间的时间肯定会超过 10 秒。

我决定向应用程序添加一些代码，以保持每个微服务处于 Activity 状态。为此，我在任务队列中创建了一个任务，该任务会调用一个方法，而该方法又会对每个微服务执行 HTTP 调用。这些是每个服务中的虚拟方法，但它们强制 Java 加载类。在完成所有 HTTP 调用后，我会等待 5 秒，然后将另一个任务放入队列并重复相同的过程。这奏效了。我注意到我不再看到 15 到 30 秒的预热时间。

我在下午晚些时候启动应用程序，让它运行一整夜，看看第二天早上会有什么响应。第二天早上，我注意到响应速度很快，尽管不如以前那么快。但大约一个小时后，当我突然收到可怕的“已达到配额”响应并且该应用程序不再可用时，我感到非常惊讶。

然后我检查了我的帐单，发现我已经支付了 1.50 美元。但是我的预算设置为 100 美元。那么为什么会达到我的配额并且应用程序停止接受请求？毕竟，即使我达到了配额，我的预算仍然设置为 100 美元，最低警报阈值设置为 50%。

然后我查看了我的帐单并看到了以下内容:

前端:2,857.24 分钟(1.03 美元)后端:574.99 分钟(0.03 美元)

所以 2,857 小时大约是 47。由于他们免费提供 28 小时，这意味着我需要支付大约 20 小时的费用。 20 倍 0.05 美元大约是 1.00 美元，这就是我所看到的。

那么为什么应用程序运行了大约 12 小时后我却使用了 47 小时？一个可能的原因是 GAE 启动了多个实例。不幸的是，我没有在“实例”页面上查看它使用了多少个实例，而且由于它每天都会重置，所以我不知道。

如果我的“keep alive”代码让实例每 5 秒保持 Activity 状态，那么 GAE 为什么还要费心启动另一个实例？我的意思是，5 秒间隔的请求相当长。这绝不应该给 GAE 算法一些指示，表明该实例正在大量使用并且需要启动另一个实例。

我决定停用我的“keep alive”代码并在 GAE 中进行设置，将实例数限制为 1，但我也选择将最小实例数也设置为 1。我假设这将使实例保持 Activity 状态并处理我的所有请求，并且每天的 28 小时永远不会用完。还是我误解了这些实例小时数的工作原理？

Answer 1

要回答 47 个实例小时的问题，有几个因素控制实例使用成本:

1) 实例大小。较大的实例被计算在最小实例的乘数中 - 因此 1 小时的 F2 与 2 小时的 F1 相同。

2) 如果您使用自动缩放进行缩放，有时如果您的请求突然激增，可能会启动多个实例。关闭实例需要 15 分钟的空闲时间。

3) 每个服务都有自己的实例

所以基本上，不要依赖您的流量模式来保持成本的一致性。如果您需要更严格的控制，您可以使用 manually scaled instances或 max-instances configuration

至于您的配额问题，我们需要错误消息来了解您达到了哪个配额，没有“实例小时”配额，因此您可能达到了其他目标。配额和预算是独立的概念，即使您有无限的预算，一些配额仍然适用(除非您让我们通过请求提高它们)。