如何从Java应用程序订阅Apache Kafka中的主题？

Question

这是apache kafka的使用者，它没有从主题“ test”中获取消息

package com.kafka;

import java.util.Arrays;
import java.util.Properties;

import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;

public class ConsumerTest {

  public static void main(String[] args) {
     Properties props = new Properties();
     props.put("bootstrap.servers", "172.17.210.45:9092");
     props.put("zookeeper.connect", "172.17.210.45:2181");
     props.put("group.id", "test-consumer-group");
     props.put("enable.auto.commit", "true");
     props.put("auto.commit.interval.ms", "1000");
     props.put("auto.offset.reset", "earliest");
     props.put("session.timeout.ms", "30000");
     props.put("key.deserializer",  "org.apache.kafka.common.serialization.StringDeserializer");
     props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");

     KafkaConsumer<String, String> kafkaConsumer = new KafkaConsumer<>(props);
     System.out.println("properties loaded");
     kafkaConsumer.subscribe(Arrays.asList("test"));

     while (true) {
         ConsumerRecords<String, String> records = kafkaConsumer.poll(100);
         for (ConsumerRecord<String, String> record : records) {
           System.out.printf("offset = %d, value = %s", record.offset(), record.value());
           System.out.println();
         }
     }

  }
}

这样的结果是没有从apache kafka得到任何消息。

     log4j:WARN No appenders could be found for logger                                                                                                                (org.apach  e.kafka.clients.consumer.ConsumerConfig).
     log4j:WARN Please initialize the log4j system properly.
properties loaded

Answer 1

您的代码似乎正确。 我建议控制ip 172.17.210.45是否可以访问。

ping 172.17.210.45

和

telnet 172.17.210.45 9092
telnet 172.17.210.45 2181

检查服务器上的现有主题

bin/kafka-topics.sh --list --zookeeper 172.17.210.45:2181

然后，您可以尝试将您的消费者移至开头（必须在kafkaConsumer.subscribe之后添加此行：

kafkaConsumer.seekToBeginning(Collections.emptyList());

最后，我建议在kafkaConsumer.poll(100)之后在无限循环中添加几行System.out.println(records.size) kafkaConsumer.poll(100) 。 只是看看是否挂起等待记录或其他。

UPDATE

如果生产者部分中有一个或多个group.id，则应在消费者部分中使用其中之一。