优先处理gRPC调用以避免服务器过载

Question

我正在使用gRPC从服务器收集场景节点树，属性或其他资源。 所有通信都是异步的。
在每个子节点的父响应到达之后，发送节点树调用。 因此，发送的请求数量增长很快。 对于总共有1500-2000个节点的树，有时其他调用（例如属性）等待5-10秒才能处理。 一种想法是在客户端使用优先级或第二个队列。 gRPC是否提供优先级？ 如何在gRPC中限制给定时间的“空中”通话数量？ 如果您可以向我介绍代码示例（C ++），如何解决此问题或将其解决-我将非常感激。

Answer 1

您可以为gRPC调用设置优先级。 如果要限制对特定频道的呼叫数量，可以在创建频道时将频道设置为arg GRPC_ARG_MAX_CONCURRENT_STREAMS 。