Kafka使用者未加入自定义groupId

Question

我根据Spring Kafka文档设置了Kafka ConsumerFactory。 但是，似乎没有使用groupId。 也许我也只是把整个事情弄错了，所以我想让你知道我的经历。

这是我的配置，似乎不起作用：

@Bean
ConsumerFactory<String, KafkaEvent> kafkaEventConsumerFactory() {
    return new DefaultKafkaConsumerFactory<>(
            getConsumerProperties(),
            new StringDeserializer(),
            new JsonDeserializer<>(KafkaEvent.class));
}

Map<String, Object> getConsumerProperties() {
    Map<String, Object> props = new HashMap<>();
    props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092"); // TODO
    props.put(ConsumerConfig.GROUP_ID_CONFIG, "myGroupId");
    props.put(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG, true);


    props.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, 3);
    props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 120000);

    props.put(ConsumerConfig.HEARTBEAT_INTERVAL_MS_CONFIG, 45000);
    props.put(ConsumerConfig.SESSION_TIMEOUT_MS_CONFIG, 70000);

    return props;
}

我有一个@KafkaEventListener配置的@KafkaEventListener ，而无需再次明确指定groupId：

@KafkaListener(topics = KafkaEventPublisher.ORDER_TOPIC)
public class KafkaEventListener {

   @Autowired
   private ConsumerFactory<String, KafkaEvent> consumerFactory;

   @KafkaHandler
   public void listenTo(@Payload KafkaEvent event) {
       LOGGER.error(LogMarker.KAFKA, consumerFactory.getConfigurationProperties().toString());
   }

}

我还可以看到我的groupId“ myGroupId”包含在上面记录的错误日志中。 但是，令我感到疑惑的是某些ConsumerCoordinator的DEBUG日志记录，该日志始终声明要加入不同的groupId，我有点担心这看起来是正确的。

2017-09-04 15:28:13.904 (    ) INFO consumer.internals.AbstractCoordinator             - Successfully joined group org.springframework.kafka.KafkaListenerEndpointContainer#0 with generation 40
2017-09-04 15:28:13.904 (    ) INFO consumer.internals.AbstractCoordinator             - Successfully joined group org.springframework.kafka.KafkaListenerEndpointContainer#0 with generation 40
2017-09-04 15:28:13.906 (    ) INFO consumer.internals.ConsumerCoordinator             - Setting newly assigned partitions [] for group org.springframework.kafka.KafkaListenerEndpointContainer#0
2017-09-04 15:28:13.907 (    ) INFO consumer.internals.ConsumerCoordinator             - Setting newly assigned partitions [my-topic-0] for group org.springframework.kafka.KafkaListenerEndpointContainer#0

在Spring Startup上，也会输出ConsumerConfig。 我可以看到groupId错误，但是其他属性已被正确接管。

据我了解，我可以通过在ConsumerFactory上进行设置或通过使用spring.kafka.consumer.group-id在application.properties中进行设置来全局设置groupId。 两种变体均不起作用。

仅当我使用@KafkaListener批注配置groupId时，LOG才表明使用者已加入正确的组：

2017-09-04 15:38:30.787 (    ) DEBUG consumer.internals.AbstractCoordinator             - Received successful JoinGroup response for group myGroupId: org.apache.kafka.common.requests.JoinGroupResponse@4c51c449

使用此配置：

@KafkaListener(topics = KafkaEventPublisher.ORDER_TOPIC, groupId = "myGroupId")

我们正在使用Spring Boot 2.0.0.M3（因此是Spring Kafka 2.0.0.M3）

Answer 1

这是M3中的错误； 在主服务器 （2.0.3.BUILD-SNAPSHOT）（和1.3.0.M2）中已修复。 我们期望在本周晚些时候发布2.0.0.RC1的候选版本（等待Spring Framework RC4）。