簡體   English   中英

kafka-connect-elasticsearch:如何發送文件刪除?

[英]kafka-connect-elasticsearch: how to send deletes of documents?

我有一個看起來像這樣的處理流:

mysql.database -> debezium-connector -> database topic -> faust.agent(stream processing to add a field) -> sink topic -> elasticsearch-sink-connector -> elasticsearch cluster

此處理流在大多數情況下都有效,但我無法弄清楚如何處理來自數據庫主題的已刪除行事件。 如果一行被刪除,我希望它也從 elasticsearch 中刪除。 我可以在可以操縱事件的 faust 部分使用條件。 有沒有辦法標記一個事件,以便當它被 elasticsearch-sink-connector 拾取時它會刪除給定的文檔而不是添加它? 我已經瀏覽了文檔,但我沒有看到具體的內容。 接收器連接器是否僅用於將文檔添加到索引?

查看連接器配置,您似乎可以將behavior.on.null.values設置為delete 然后,您只需要確保針對應刪除文檔的鍵設置墓碑(空)。

默認情況下, Debezium 將生成用於刪除的墓碑消息。

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM