scala - 如何防止喷涂应用过载？

Question

我有以下清晰的算法:

1. 客户向我的喷雾应用程序发送请求。
2. Spray 收到一个请求，我看到 spray 在收到多个请求时接收负载。
3. 如果负载高，spray 返回 HTTP 503；否则它开始处理请求。

如何管理当前的喷雾负载？

此外，据我所知，spray 在内部使用 akka，可以通过添加额外的节点来扩展它，那么我如何使用额外的节点来管理负载？

Answer 1

Spray 本身使用响应式 I/O，可以处理非常高的负载，可能比它可以处理的任何“保护”自定义代码都要高。所以不要担心试图保护喷雾系统本身。如果你有复杂的处理逻辑，可能需要一段时间来处理某些请求，那么使用像 http://letitcrash.com/post/28901663062/throttling-messages-in-akka-2 这样的东西来围绕该处理逻辑设置一个保护性节流器可能是有意义的。 .如果队列已满，您可以简单地 complete(StatusCodes.ServiceUnavailable)。