[英]How do I tell a topic on confluence cloud to use a specific schema programmatically?
所以我知道如何使用 confluent_kafka AdminClient 實例在 Confluent Cloud 上創建主題,但我不確定如何以編程方式設置主題的消息模式? 澄清一下,我將要使用的模式保存在本地的 avro 模式文件 (.avsc) 中 ...
[英]How do I tell a topic on confluence cloud to use a specific schema programmatically?
所以我知道如何使用 confluent_kafka AdminClient 實例在 Confluent Cloud 上創建主題,但我不確定如何以編程方式設置主題的消息模式? 澄清一下,我將要使用的模式保存在本地的 avro 模式文件 (.avsc) 中 ...
[英]Connect Kafka to Neo4j
我創建了一個生成 user_id、receipent_id 和金額的簡單 python 代碼。 我創建了一個 kafka 生產者和消費者。 Python 代碼以 json 格式返回數據。 現在我正在嘗試通過 kafka 將我的數據連接到 Neo4j,但我無法做到。 https://neo4j. ...
[英]Confluent Kafka poll, when does a message get committed
我有一個 Python 應用程序,它具有 autocommit=True 並且它使用poll()以 1 秒的間隔獲取消息。 我正在閱讀文檔,它提到輪詢在后台線程中讀取消息並將它們排隊,以便主線程可以在之后接收它們。 如果我有多個消息queued並且我的消費者崩潰了會發生什么,我有點困惑。 那些從后台 ...
[英]Confluent-Kafka Python - Describe consumer groups (to get the lag of each consumer group)
我想使用 confluent-kafka 獲取消費者組的詳細信息。 與之對應的 cli 是 ` 我的最終目標是從 output 中獲取滯后值。confluent-kafka python API 中是否有任何方法可以獲取這些詳細信息。 java API中有方法,但我在python API中找不到 ...
[英]Unable to upgrade Python 3.11 due to error in Locust-plugin installation (Confluent-Kafka)
將 Python 升級到 3.11 后,Locust-plugin 安裝失敗,因為它的依賴項之一拋出錯誤首先它要求我安裝 VC++ > 14.0 安裝 VC++ 構建工具 15 后,仍然會拋出不同的錯誤注意:我們直到 Python 3.10.8 才發現此問題請讓我知道是否有任何修復? ...
[英]KafkaSource connection to Confluent Kafka (with SSL & SchemaRegistry)
我嘗試使用 KafkaSource(來自 MLRun)連接到 Confluent Kafka,我以前使用過這個簡單的代碼: 如何使用 KafkaSource 重寫這段代碼? ...
[英]Run kafka consumer without while loop using python
我正在將 Confluentinc Kafka 與 Python 和多線程一起使用。 在這里,我有 N 個並行運行的工作線程,每當一個線程完成其工作時,它就會按需輪詢來自 kafka 的消息。 整個工作是使用 while 循環完成的。 通過使用 while 循環,我的主線程被阻塞並且無法執行其他操作 ...
[英]Get consumer group state using confluent kafka python
我目前正在這樣做以獲取groupmetadata列表的組元數據 有沒有辦法實現以下目標 它拋出一個錯誤,它只需要一個字符串參數,下一個是 integer。 但是當我檢查文檔時,我希望它適用於選定的組。 我在這里錯過了什么? 有沒有辦法做到這一點? 謝謝。 ...
[英]KafkaError{code=_UNKNOWN_TOPIC,val=-188,str="Unable to produce message: Local: Unknown topic"} error while using kafka producer in Python
我正在為 kafka 生產者使用 python 腳本並收到以下錯誤: 我收到以下錯誤: ...
[英]import error confluent_kafka mach-o file, but is an incompatible architecture (have (arm64), need (x86_64)))
我正在使用帶有 M 系列芯片的 Macbook。 在運行具有 confluent-kafka 依賴項的 python 時,出現此錯誤。 使用 pip3 安裝依賴項。 還安裝了 librdkafka ImportError: dlopen(/Library/Python/3.8/site-packa ...
[英]confluent_kafka: how to reliably seek before reading data (avoiding Erroneous state)
我正在嘗試將 Python 代碼從 aiokafka 切換到 confluent_kafka 並且在讀取歷史數據時遇到問題。 系統對於給定的主題只有一個生產者,以及幾個獨立的消費者(每個都有一個單獨的組 ID)。 當每個消費者啟動時,它想讀取主題子集的最新歷史消息(稱為歷史主題),然后讀取所有新消 ...
[英]Setting processing.guarentee to exactly_once creates deserialization error at python consumer kafka
我有 java Kafka stream 處理應用程序和 python 應用程序。 Java 應用程序產生數據,python 消費者使用它。 當processing.guarantee設置為exactly_once時,python 消費者無法反序列化數據。 反序列化失敗。 我嘗試了 java 消費 ...
[英]0x4 Decompression error in Python Confluent Kafka
我一直無法讓 python-confluent-kafka 在我的 windows 服務器上工作。 在我的本地機器上創建一個簡單的消費者時,一切正常。 但是,一旦在 windows 服務器上,我將收到消息但出現以下錯誤: b'在 9550 字節的 24023756 處對消息的解壓縮(編解碼器 0x ...
[英]how can I fix TypeError: can't set attributes of built-in/extension type 'cimpl.Consumer'
例子.py 當我模擬 (consumer.poll) 它顯示錯誤時,TypeError: can't set attributes of built_in/extension type 'cimpl.Consumer' ...
[英]confluent-kafka consumer working but not producer
使用 confluent-kafka,我正在嘗試使用 Amazon MSK。 它似乎連接到 MSK,因為消費者正在工作,但生產者沒有生產任何東西。 我檢查了 kafka-console-producer.sh 消費者模塊是否正常工作。 我們有幾個使用 MSK 的后端。 這是我在開發我的服務時提到的 ...
[英]Stream elasticsearch data to kafka
這個賞金已經結束。 此問題的答案有資格獲得+50聲望賞金。 賞金寬限期在19 分鍾后結束。 RAVITEJA SATYAVADA正在從有信譽的來源尋找答案。 我對 Elasticsearch 到 Kafka 的數據有要求。 我正在查看 Elasticsearch 和 Kafka(Python 實 ...
[英]How to delete and then create topics correctly in a script for Kafka?
我正在編寫一個腳本來刷新我在 AWS 管理的 Kafka 集群上的主題。 每當我運行腳本時,我都需要清除現有數據,我通過刪除並再次創建相同的主題來做到這一點。 我希望腳本在重復運行時打印出成功刪除和成功創建。 但是刪除/創建每隔一次運行就會失敗,這讓我感到困惑。 以下是我的腳本:# manage_ ...
[英]consuming Kafka Avro massages in Python
我正在嘗試在 Python 中使用來自 Kafka Avro 的消息。 我們在 Java 中有它,它正在工作,但是當嘗試在 Jupyter 筆記本中使用它時,解析不起作用。 我遵循了文檔給出的示例:(出於安全原因,我刪除了 conf 信息) 這是我得到的錯誤: KafkaError{code ...
[英]Error installing confluent kafka - ld: library not found for -lrdkafka
我正在嘗試在我的 mac 操作系統上安裝 confluent kafka python 模塊。 我的 python 版本是 3.9,我一直在出錯。 有誰知道如何解決這一問題? ...
[英]Unable to push subsequent transactions to Kafka Producer
我正在嘗試將事件分批發送到 Kafka(比如說一批 10 個事件)以維護事務保證。 但我只能成功地將第一批事件發送到 Kafka。 所有后續批次都失敗,原因是 KafkaError{code=_STATE,val=-172,str="Operation not valid in state Read ...