gpt4 book ai didi

java - Grpc-java中有没有自动版本的流量控制?

转载 作者:行者123 更新时间:2023-12-01 21:24:38 24 4
gpt4 key购买 nike

我的服务器可以处理 10000qps,但是当它达到 11000qps 时,它就过载了。这最终会导致内存不足。

我想知道 grpc-java 如何处理服务器过载。找了好久,没有找到可配置的版本(max-in-flight-messages等参数)。

grpc-java examples中只有手动版本.

你能给我一些建议吗?提前致谢。

最佳答案

查看 maxConcurrentCallsPerConnection[1]。您需要显式使用 NettyServerBuilder。但无论如何,你最有可能在幕后使用那个。 (如果您不控制客户端(数量),这可能还不够)

您还可以查看https://github.com/Netflix/concurrency-limits 。它很可能会解决您的并发问题。

[1] https://grpc.github.io/grpc-java/javadoc/io/grpc/netty/NettyServerBuilder.html#maxConcurrentCallsPerConnection-int-

关于java - Grpc-java中有没有自动版本的流量控制?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/58835027/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com