scala - 使用 Spray 限制并发请求

Question

我正在使用喷雾路由来构建一个简单的 HTTP 服务器。该服务器调用许多需要一段时间才能响应(秒)的服务。当并发请求数变得很大时，我们想拒绝请求。否则，大量并发请求会使系统陷入困境，对任何人都不利。

有许多层可以解决这个问题。我不确定如何精确地完成其中任何一个，或者哪个是最好的。

我可以为具有有界队列和拒绝策略的喷射路由提供执行上下文。

我可以限制我的 Spray http 服务器的邮箱大小，因为它也是一个 Actor 。

我可以在 application.conf 中配置一个设置直接针对喷雾解决了这个问题。

什么是实现这种政策的简单有效的方法？

Answer 1

我不知道哪种解决方案最适合您的情况(我会创建自己的执行上下文)，但我相信也许您应该重新考虑如何处理您的请求。

你怎么处理你的请求？您是否尝试直接在 Spray 中处理它们？在 future 的帮助下？

我建议创建额外的参与者，将请求上下文传递给他们，然后决定要做什么。如果你想处理它，或者你应该立即放下它。这将为您在 future 提供很大的灵活性。您可以连接额外的服务器，现在支持 Akka 中的集群，而无需更改喷涂部分，轻松增加更多处理能力。

我知道这不能回答您的问题，但我认为 akka 旨在以不同的方式处理此类问题，并且删除邮箱或其他任何内容都不是正确的选择。