google-app-engine - 即使空闲实例可用，App Engine 加载请求

Question

我有一个在 App Engine 上运行的简单应用程序，但我遇到了奇怪的延迟问题。这是一个 Python 2.7 应用程序，加载请求需要 1.5 到 10 秒(我猜这取决于 GAE 的感受)。现在这是一个低流量站点，因此之前 GAE 没有闲置实例，大多数请求都是加载请求，导致第一次页面 View 等待时间很长。

我已经尝试将空闲实例的最小数量配置为“1”，以便这些不频繁的页面访问可以立即命中热实例。

但是，我现在已经看到几个案例，即使有一个实例未被使用，GAE 也会将传入请求路由到一个正在加载的实例，而保持热实例不变:

gae dashboard showing odd scheduling

如何防止这种情况发生？我觉得我一定是理解错了，因为我当然不希望出现这种行为。

更新:此外，更难以理解的是该应用程序启用了线程安全，所以我真的不明白为什么 GAE 会慌乱并为单个单独的实例启动一个实例请求。

Answer 1

实际上，我认为这是正常行为。空闲实例应该保证最小数量的实例总是可用的(对于尖峰负载)。

因此，当一些请求开始传入时，它们最初由空闲实例提供服务，但同时 AE 调度程序将开始启动新实例以始终保证相同数量的空闲实例，即使在负载突然增加的情况下也是如此。也就是说，“覆盖”那些忙于处理请求的空闲实例。

在Adjusting Application Performance上有详细描述页面。