node.js - 一个实例 - 一次一个请求 App Engine 灵活

Question

我正在使用

• App Engine 灵活的自定义运行时。
• nodejs，作为基础图像。
• express
• 用于排队请求的 Cloud Tasks
• 操纵木偶的工作

我的要求

• 20GB 内存
• 长时间运行的过程

由于我的独特需求，我希望 1 个请求仅由 1 个实例处理。当它获得空闲或请求超时时，只有到那时它才应该得到一个新的请求。当实例正在处理 1 个请求时，我设法拒绝了其他请求，但无法找出适当的自动缩放设置。

请建议实现此目标的最佳方法。提前致谢!

Answer 1

在您的 app.yaml 中尝试限制 max_instances和 max_concurrent_requests .

我还建议查看 rate limiting您的 Cloud Tasks 队列，以减少不必要的发送请求尝试。此外，您可能希望增加 retry attempts 的 MIN_INTERVAL也可以分散请求。

您的任务队列将继续按照您设置的速率处理和发送任务，因此如果您的实例拒绝请求，它将进入重试模式。您似乎专注于 App Engine 的扩展，但您的问题出在 Cloud Tasks 上。您可能想要安排您的任务，以便它们在您想要的时间间隔触发。