繁体   English   中英

kafka-connect-elasticsearch:如何将 elasticsearch 与消费者组同步?

[英]kafka-connect-elasticsearch: How to sync elasticsearch with consumer group?

我想查询 Kafka 主题中的消息,但不是所有消息,而不是从头开始。 我只需要根据消费者组查看哪些消息尚未提交。 所以,基本上我想要的是删除偏移量低于消费者组偏移量的文档。

此时,如果我使用弹性连接器,是否有任何方法或解决方法可以在消息被消费和提交后从弹性索引中删除文档?

或者,我应该使用 Kafka Streams 以及如何使用?

接收器连接器仅在显式启用该属性并且您正在阅读的主题中的文档 ID 存在 null 值记录时删除文档。 这意味着您需要实际使用此 null 记录并由连接器处理

查看哪些消息尚未提交

这意味着连接器尚未处理的消息,使它们无法在 Elasticsearch 中搜索

删除偏移量小于消费者组偏移量的文档

如果您在 Elasticsearch 中创建了仅由连接器使用的新索引,则可以暂停连接器,然后截断索引,然后恢复连接器

在使用和提交消息后,是否有任何方法或解决方法可以从弹性索引中删除文档

直接使用DELETE API

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM