java - GAE 启动动态实例来服务请求而不是使用空闲的常驻实例

Question

我已经检查了一堆关于同一主题的其他帖子，比如这个:“常驻实例似乎不起作用”，但我找不到解决我的问题的有效答案

我有 4 个 F2 驻留，每当有人访问我的应用程序时，都会安装一个新的动态实例来响应请求，而不是使用驻留实例。因此，尝试使用我的应用程序的人将等待 20 秒。然后所有新的请求都会来到新的动态实例。我的常驻实例的响应时间低于我的最小等待时间(5 秒)。我的应用程序从昨天开始投入生产，如果 5 分钟内没有人使用它，那么下一个要连接的人将不得不等待 20 秒!

根据我的阅读，有人会说，如果我将最小空闲实例设置为 4(为了拥有我的常驻实例)，GAE 将尝试始终拥有 4 个空闲实例，因此我们将启动新实例；但是我总是要等待 35 秒才能完成我的所有第一次连接 使用该应用程序 2 分钟后，一切都很好。一个在谷歌工作的人告诉我常驻实例的管理有一个错误，我必须有 3 个常驻实例才能为我的用户提供快速答案。我确定我还没有理解某些东西。任何人都可以帮助我让我的用户在连接到我的应用程序时有一个公平的响应时间，并且没有人连接 5 分钟吗？

非常感谢

Answer 1

查看 google groups 上的 GAE 邮件列表，您会看到这个问题一遍又一遍地出现。

简短的回答是，GAE 专为高负载而设计。驻留实例的存在是为了处理工作负载的峰值，尽管我还没有真正看到“峰值”的正式定义。如果 GAE 神秘的负载平衡算法没有将您的流量确定为峰值，您将获得一个新的动态实例。

如果您向您的应用程序发出数百或数千个请求，那么在等待动态实例启动时，其中一些请求将被定向到常驻实例。

除了加入对此提示的一长串人之外，您无能为力。至少有两个问题针对此提出:

https://code.google.com/p/googleappengine/issues/detail?id=7865&q=scheduler&colspec=ID%20Type%20Component%20Status%20Stars%20Summary%20Language%20Priority%20Owner%20Log

https://code.google.com/p/googleappengine/issues/detail?id=7706&q=scheduler&colspec=ID%20Type%20Component%20Status%20Stars%20Summary%20Language%20Priority%20Owner%20Log

或者，您可以重写您的应用，这样您就没有 20 秒的启动时间。您可以做一些事情，比如推迟大部分加载，但在 Java 中做起来很痛苦。

另一方面，python 和 Go 运行时似乎启动得更快。