从Kafka使用者反序列化Java对象

Question

我有一个Kafka Consumer，目前配置有：

kafkaProps.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName());
kafkaProps.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName());

但我真正想要的是能够使用Kryo Deserializer代替：

public class KryoPOJODeserializer<T> implements Deserializer<T> {

    private Kryo kryo = new Kryo();

    @Override
    public void configure(Map props, boolean isKey) {
        kryo.setInstantiatorStrategy(new DefaultInstantiatorStrategy(new StdInstantiatorStrategy()));
        kryo.register( Arrays.asList( "" ).getClass(), new ArraysAsListSerializer() );
    }

    @Override
    public T deserialize(String topic, byte[] data) {
        // Deserialize the serialized object.
        return kryo.readObject(new Input(data), T.class);
    }

    @Override
    public void close() {

    }

}

我无法弄清楚的是，是否有可能为不同的主题重用相同的消费者（每个主题上都有不同类型的POJO）？ 如果我的消费者配置是：

kafkaProps.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, KryoPOJODeserializer.class.getName());

或者，我是否必须为每个主题都有一个单独的消费者？

或者，我是否必须删除反序列化器的泛型部分，始终返回一个Object，并将Object转换为客户端代码中的相关POJO？ 就像是：

public class KryoPOJODeserializer implements Deserializer {

    private Kryo kryo = new Kryo();

    @Override
    public void configure(Map props, boolean isKey) {
        kryo.setInstantiatorStrategy(new DefaultInstantiatorStrategy(new StdInstantiatorStrategy()));
        kryo.register( Arrays.asList( "" ).getClass(), new ArraysAsListSerializer() );
    }

    @Override
    public Object deserialize(String topic, byte[] data) {
        // Deserialize the serialized object.
        return kryo.readClassAndObject(new Input(new ByteArrayInputStream(data)));
    }

    @Override
    public void close() {

    }

}

后者会工作，但感觉有点脏。

任何建议赞赏！

Answer 1

您可以通过将Deserializer实例直接传递给Consumer来使用原始方法：

KafkaConsumer<String, Foo> consumer = new KafkaConsumer<>(properties,
    new StringDeserializer(), new KryoPOJODeserializer(Foo.class));

如果要为多个主题重用相同的传入数据类型，则可以使用单个使用者设置对这些主题的订阅。 如果您想要值的不同对象类型，那么您将需要使用多个使用者。

否则你的第二种方法也是有效的。