cost 244 ms
如何将消息分发到kafka connect中由`offset.storage.topic`定义的主题中的所有分区 - how to distribute messages to all partitions in topic defined by `offset.storage.topic` in kafka connect

我已经使用从docker pull debezium/connect的 docker 图像部署了 debezium 在https://hub.docker.com/r/debezium/connect提供的文档中,环境变量OFFSET_STORAGE_TOPIC之一的描述如下: 运行 Kafka C ...

Kafka Connect 还是 Kafka Streams? - Kafka Connect or Kafka Streams?

我需要从主题中读取消息,根据提供的配置丰富消息(丰富所需的数据来自外部系统),并将丰富的消息发布到 output 主题。 关于 source 和 output 主题的消息应该是 Avro 格式。 这是自定义 Kafka 连接器的好用例还是我应该使用 Kafka Streams? 为什么我要考虑 K ...

为什么每当我尝试运行 DataStax Kafka Connector 时 Cassandra 都会崩溃? - Why is Cassandra crashing whenever I try to run DataStax Kafka Connector?

目标:我的目标是使用 Kafka 使用 Kafka Connect 将消息发送到 Cassandra 接收器。 我已经部署了 Kafka 和 Cassandra,我能够单独使用它们中的每一个——我可以毫无问题地将数据发送到 Kafka,使用生产者传递消息,并使用消费者来消费它们。 我使用 cqls ...

Kafka JDBC 接收器连接器尝试在删除时更新目标表但失败 - Kafka JDBC sink connector trying to update destination table on delete and fails

我正在使用 Debezium 源连接器 (postgres) 跟踪数据库对 kafka 的更改,我正在使用 kafka jdbc 接收器连接器将数据传输到另一个 postgres 服务器。 这里插入和更新工作正常。 问题在于删除。 每当删除发生在源数据库 debezium 发送墓碑消息。 但是 jd ...

Debezium:仅在 column.include.list 中的列发生更改时才生成消息 - Debezium: Produce messages only upon changes to columns in column.include.list

我正在运行 Debezium,其中column.include.list配置为源 MySQL 数据库的每个观察表上的列子集。 对源表上记录的更改已成功发布到 Kafka,每条消息before和after的值仅包含该列的子集。 但是,当不在column.include.list中的观察表的列发生更改时 ...

尝试部署 debezium 连接器时,没有可从字符串值反序列化的字符串参数构造函数/工厂方法 - no String-argument constructor/factory method to deserialize from String value, when trying to deploy a debezium connector

我正在观看 kafka connect 的视频教程,他希望我在 cmd 中使用以下 curl 命令部署 debezium 连接器: 但是,当我运行该命令时,出现以下错误: 关于我做错了什么的任何想法? ...

当使用 syatemctl 停止 kafka-connect-worker 时,从 ec2 datadog agent 向 datadog 发送指标 - send metrics to datadog from ec2 datadog agent when syatemctl is used to stop kafka-connect- worker

我在 ec2 上的 Kafka-worker-connect 和 Datadog 代理并将指标发送到 Datadog。 当我使用 systemctl stop Kafka-worker-connect 时,它会关闭整个应用程序而不会将指标发送给 datadog。 我尝试了 curl 删除操作来停止 ...

在 confluent connect CRD 类型中添加一个 jar 文件 - Add a jar file into confluent connect CRD type

我正在尝试使用在 kube.netes AKS 集群中运行的 Confluent 平台中的 JDBC 连接器。 我可以创建连接器,但遇到此错误: 我知道那是因为我没有将驱动程序安装到连接器文件夹中,但我不知道如何将其插入正确的 position。 这就是我创建 Kafka Connect 的方式: ...

使用新连接器扩展的 confluentinc/cp-server-connect docker 图像时,如何在重新启动之间保持连接器的配置 - How can I keep connector's configuration between restarts when using confluentinc/cp-server-connect docker image extended with new connector

我正在使用带有 elasticsearch 接收器连接器( https ://www.confluent.io/hub/confluentinc /kafka-connect- elasticsearch ) 我添加了 dockerfile 并重建了图像,它工作得很好。 我正在使用 http 请求配 ...

BigQuery 接收器连接器配置错误 - Errors with BigQuery Sink Connector Configuration

我正在尝试将数据从 MySQL 提取到 BigQuery。 为此,我正在使用运行在 Docker 上的 Debezium 组件。 每当我尝试将 BigQuery 接收器连接器部署到 Kafka 连接时,我都会收到此错误: 它表明这是服务帐户密钥的问题(试图找到它) 我授予服务帐户 BigQuery ...

如何使用 Kafka Connect 将数据从源 Kafka 集群传输到目标 Kafka 集群? - How to transfer data from source Kafka cluster to target Kafka cluster using Kafka Connect?

如标题中所述,我有一个用例,我想使用 Kafka 连接框架将数据从源 Kafka 主题(Cloudera Kafka 集群)复制到目标 Kafka 主题(AWS MSK Kafka 集群)。 我已经了解了一些可用选项,例如 KafkaCat Utility 和 Mirror Maker 2。但我很 ...

我正在尝试使用 kafka connect 将我的本地服务器数据库(Mssql 数据库)连接到不同的数据库(Mssql 但不同的表)? - I am trying to connect my local server database(Mssql Database) to different database (Mssql but different table) using kafka connect?

创建源连接。 创建接收器连接。 connector.class来自融合社区。 但我想要它来自 Apache Kafka 这是开源的我们正在搜索如何用 apache kafka one 替换该行。 ...


 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM