gRPC 客户端负载均衡

Question

我不确定我是否正确理解通道和客户端负载平衡在 grpc 中的工作方式。 我根据一个教程做了所有事情。

我有几台服务器，我想用请求 go 。 我写了一个简单的 NameResolverProvider。

public class BalancingNameResolverProvider extends NameResolverProvider {
    private Set<String> replicas;
    private Optional<Map<String, Object>> config;
    private String schema;
    private int priority = 5;

    public BalancingNameResolverProvider(Set<String> replicas, Optional<Map<String, Object>> config, String schema, int priority) {
        this.replicas = replicas;
        this.config = config;
        this.schema = schema;
        this.priority = priority;
    }

    @Override
    protected boolean isAvailable() {
        return true;
    }

    @Override
    protected int priority() {
        return priority;
    }

    @Override
    public NameResolver newNameResolver(URI targetUri, NameResolver.Args args) {
        List<EquivalentAddressGroup> delegates = replicas.stream()
                .map(x -> new InetSocketAddress(x.split(":")[0], Integer.parseInt(x.split(":")[1])))
                .map(EquivalentAddressGroup::new)
                .collect(Collectors.toList());

        return new NameResolver() {
            private Optional<NameResolver.ConfigOrError> parsedConfig = config.map(x ->
                    args.getServiceConfigParser().parseServiceConfig(x)
            );

            @Override
            public String getServiceAuthority() {
                return targetUri.getAuthority();
            }

            @Override
            public void shutdown() {
            }

            @Override
            public void start(final NameResolver.Listener2 listener) {
                ResolutionResult.Builder builder = ResolutionResult.newBuilder()
                        .setAddresses(delegates)
                        .setAttributes(Attributes.EMPTY);
                parsedConfig.ifPresent(builder::setServiceConfig);
                listener.onResult(builder.build());
            }
        };
    }

    @Override
    public String getDefaultScheme() {
        return schema;
    }
}

我写了一个简单的客户端。

            NameResolverRegistry.getDefaultRegistry().register(resolverConfig.toProvider());
            ManagedChannel channel = NettyChannelBuilder
                    .forTarget("???") //or forAddress("???")
                    .enableRetry()
                    .usePlaintext()
                    .build();
            try {
                HelloServiceGrpc.HelloServiceBlockingStub client = HelloServiceGrpc.newBlockingStub(channel);
                for (int i = 0; i < count; i++) {
                    System.out.println(client.hello(HelloRequest.newBuilder()
                            .setFirstName("first_" + i)
                            .setLastName("lastName_" + i)
                            .build())
                            .getGreeting());
                }
            } finally {
                channel.shutdown();
            }

但是在我查看的所有手册中，要么为通道（forAddress）指定了一个主机和端口，要么在“forTarget（）”中指定了某个名称。

但是我有几台服务器，我怎样才能全部指定它们？

什么时候选择服务器？ 我正确理解 NameResolverProvider 参与其中，我在其中指定了服务器列表

我使用 round_robin 策略。 也许我不需要 NameResolverProvider？

Answer 1

解决多个地址的最简单方法是利用 DNS 或 /etc/hosts 文件。 默认的 DNS 名称解析器将加载所有地址，您可以调用managedChannel.defaultLoadBalancingPolicy("round_robin")连接到所有地址，而不仅仅是第一个有效的地址。

名称解析器由传递给forTarget()的目标字符串的方案选择。 因此，如果您的解析器方案是fixed-replicas ，您将传递一个类似于fixed-replicas:///的字符串作为目标字符串。 如果目标字符串中没有方案，则使用默认名称解析器。

forAddress()是一种转换为host:port目标字符串的便利，但具有管理 IPv6 地址的逻辑，这些地址需要百分比编码才能在 URI 中。 仅在使用默认名称解析器（通常为 dns）时才有用。

DnsNameResolver 使用优先级 5，您可能不想覆盖它，因此您可能应该为您的提供者使用较低的优先级，例如 4。

创建InetSocketAddress时要小心，确保只传递 IP 地址。 如果您将主机名传递给它，它将在构造函数中执行 DNS 解析。 NameResolver 不应在调用它们的正常线程中执行 I/O 或阻塞操作。 NameResolver 可以将Args.getOffloadExecutor()用于 I/O 等。 如果您在这里使用主机名，那么您最终会将它们解析为单个 IP 地址，并且永远不会重新解析它们，这意味着如果它们发生更改，您需要重新启动二进制文件。