繁体   English   中英

Kafka Streams Global Store - 添加变更日志主题

[英]Kafka Streams Global Store - Adding change log topic

我有一种情况,我想维护自己的全局表结构。 本质上,全局存储链接到处理器,我使用一些计算来创建键,然后将其存储到键值存储。

由于全局状态存储没有更改日志主题,它使用原始主题作为更改日志。 在状态恢复的情况下,它只是将主题数据加载到全局表(这将是错误的),因为我们构建了自己的键和值。

Topic Data

Key, value
1234,abcd
4567,defg

StateStore
Key, value
12ab, abcd
45de, defg

我的要求是使用我的自定义键(不是直接来自主题的键)创建一个全局存储。 任何解决方案?

以下链接回答了我的问题Kafka 流用例用于添加全局存储

在解决https://issues.apache.org/jira/browse/KAFKA-7663https://issues.apache.org/jira/browse/KAFKA-8037之前,目前不支持此功能。

目前,全局Processor无法在不破坏应用程序的情况下更改数据。 您只能将未修改的数据放入全局状态存储。

作为一种解决方法,您可以执行一个预处理步骤,修改数据,将其写回主题,然后将该主题使用到您的全局状态存储中。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM