grpc 客户端 python：如何创建 grpc 客户端连接池以获得更好的吞吐量？

Question

我们的用例是发出大量请求。 每个请求返回 1 MB 的数据。 现在，在客户端，我们创建一个单独的 GRPC 通道并在循环中运行以下 function

content_grpc_channel = grpc.insecure_channel(content_netloc)
test_stub = test_pb2_grpc.ContentServiceInternalStub(
    content_grpc_channel)

def get_feature_data_future(feature_id, span_context=()):
  req_feature = test_pb2.GetFeatureRequest()
  req_feature.feature_id = feature_id
  resp_feature_future = test_stub.GetFeature.future(
      req_feature, metadata=span_context)
  return resp_feature_future

我的问题是在 python 如何创建 grpc 客户端连接池以获得更好的吞吐量？

在 golang 中，我看到了这个https://godoc.org/google.golang.org/api/option#WithGRPCConnectionPool但我很难在 python 中找到文档。

python中是否有这样的实用程序来创建grpc连接池？ 或者我应该创建多个 grpc 频道并自己管理这些频道？ 我假设每个通道都有不同的 tcp 连接，对吗？

Answer 1

gRPC 使用 HTTP/2 并且可以在一个连接上多路复用多个请求，并且 gRPC 客户端连接应该在客户端应用程序的生命周期内重复使用。

您提到的 Golang 链接说 WithGRPCConnectionPool 将用于平衡请求。 如果需要，您可能会搜索负载平衡，但请记住，负载平衡仅在您有多个 gRPC 服务器实例时才有意义。

如果您正在寻找一个受数据库操作启发的连接池，我想说您不必担心它，因为使用 gRPC 时不存在打开连接开销