gpt4 book ai didi

gRpc 双向流

转载 作者:行者123 更新时间:2023-12-04 17:43:53 25 4
gpt4 key购买 nike

假设我在服务器上有 2 个函数 add 和 subtract。我可以在这种情况下使用双向流来提高吞吐量吗?如果是这样,我是否必须为每个请求和响应都有一个标识符来区分客户端的响应(如 reqId)?通常,它们将是一元调用,但希望通过流式传输来增加吞吐量。

最佳答案

的确,流式消息的开销比一元 RPC 低。尽管 gRPC 团队倾向于不鼓励仅仅为了这种性能提升而使用流,除非确实有必要,因为消息不能分发到多个后端,一个后端的多个线程,而且更复杂,更难调试。尽管如果您正在考虑使用一元 RPC 进行批处理,那么流式传输确实具有您可能更喜欢的优势。

如果服务器按照收到请求的顺序计算响应,那么您就不需要 reqId;第一个响应将针对第一个请求,第二个响应第二个,第三个响应第三个,等等。gRPC 流保留消息顺序。

关于gRpc 双向流,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53145828/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com