繁体   English   中英

kafka-connect-elasticsearch:如何发送文件删除?

[英]kafka-connect-elasticsearch: how to send deletes of documents?

我有一个看起来像这样的处理流:

mysql.database -> debezium-connector -> database topic -> faust.agent(stream processing to add a field) -> sink topic -> elasticsearch-sink-connector -> elasticsearch cluster

此处理流在大多数情况下都有效,但我无法弄清楚如何处理来自数据库主题的已删除行事件。 如果一行被删除,我希望它也从 elasticsearch 中删除。 我可以在可以操纵事件的 faust 部分使用条件。 有没有办法标记一个事件,以便当它被 elasticsearch-sink-connector 拾取时它会删除给定的文档而不是添加它? 我已经浏览了文档,但我没有看到具体的内容。 接收器连接器是否仅用于将文档添加到索引?

查看连接器配置,您似乎可以将behavior.on.null.values设置为delete 然后,您只需要确保针对应删除文档的键设置墓碑(空)。

默认情况下, Debezium 将生成用于删除的墓碑消息。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM