[英]How do I tell a topic on confluence cloud to use a specific schema programmatically?
所以我知道如何使用 confluent_kafka AdminClient 實例在 Confluent Cloud 上創建主題,但我不確定如何以編程方式設置主題的消息模式? 澄清一下,我將要使用的模式保存在本地的 avro 模式文件 (.avsc) 中 ...
[英]How do I tell a topic on confluence cloud to use a specific schema programmatically?
所以我知道如何使用 confluent_kafka AdminClient 實例在 Confluent Cloud 上創建主題,但我不確定如何以編程方式設置主題的消息模式? 澄清一下,我將要使用的模式保存在本地的 avro 模式文件 (.avsc) 中 ...
[英]Kafka Spring: How to hide logs from RetryTopicConfigurer
我有一個有兩個分區的主題,我正在使用@RetryableTopic,我可以在我的應用程序控制台上看到日志 INFO oskr.RetryTopicConfigurer - 在 dlt 偵聽器中收到消息:{topic name with second partition} 這是錯誤的,因為它只是另一個 ...
[英]Kafka replication factor
當我們說創建主題時 RF = 3。這是否意味着每個分區將總共有 3 個副本——其中 1 個是領導者,2 個是副本? 或者這是否意味着在 1 個領導者副本之上將有 3 個副本,因此總共有 4 個副本? ...
[英]Kafka is not sending messages to other partitions
安裝在 Mac (Intel) 上的 Apache Kafka。 單一本地生產者和單一本地消費者。 創建具有 3 個分區和 1 個復制因子的 1 個主題: 生產者代碼: 生產者消息: 生成消息時(通過生產者控制台手動),所有消息都進入同一個分區。 他們不應該跨分區分布嗎? 我試過 3 條記錄(如上所 ...
[英]kafka-topics.bat --list --bootstrap-server localhost:9092 is not returning list
kafka-topics.bat --list --bootstrap-server localhost:9092 沒有返回任何東西 kafka-topics.bat --list --bootstrap-server localhost:9092 沒有顯示任何內容上面的命令旨在向我顯示主題列表, ...
[英]Kafka + how to exclude folder that not related to any topic folders
我們有 3 個節點的 Kafka Custer(所有機器都是 RHEL 7.9 版本) 所有主題及其分區都位於文件夾/var/kafka/kafka-logs下當/var/kafka/kafka-logs下的任何文件夾不屬於主題和分區時,Kafka 代理服務非常敏感 - 在這種情況下,代理將失敗,但 ...
[英]Kafka permission on a topic creating a Group Authorization Exception
所以我有一個使用 SSL 的 Zookeeper 運行的 Kafka 集群。 我在 Kafka ACL 上向用戶授予了特定主題的讀取權限:我可以在 zookeeper 中看到它。 當此用戶使用數據時,他們將獲得組授權異常。 我需要將每個組都添加到 ACL 嗎? 我對這個錯誤感到困惑。 謝謝 ...
[英]create table- specified columns and properties
在 KSQL 中,我需要基於 Kafka 主題“testtopic”創建一個表,其中包含如下消息:[ {“name”:“bank meeting”,“type”:“request for loan”,“num_rep”:1 }, { "name": "bank meeting", "type": " ...
[英]Kafka: "Broker failed to validate record" after increasing partition
我通過 terraform 增加了現有 Kafka 主題的分區。 分區大小已成功增加,但是當我測試與主題的連接時,我收到“經紀人無法驗證記錄” 測試方法: 我曾嘗試在網上搜索並遇到一種稱為模式驗證配置的東西: https ://docs.confluent.io/cloud/current/s ...
[英]Create Kafka topic in Active-Passive Kafka cluster architecture
我試圖弄清楚在主動-被動 Kafka 集群架構中創建主題的正確方法是什么。 假設我們在兩個獨立的可用區中有兩個 Kafka 集群(主動-被動)。 我知道當數據從主動集群復制到被動集群時,會發生主題鏡像。 問題是。 當我創建一個主題時,我應該在兩個集群上分別創建它嗎? 如果沒有,那么鏡像制造者應該 ...
[英]Kafka topics as chatroom identifiers
我對可以使用不同聊天室的消息聊天應用程序感興趣。 我試圖從 Kafka 概念的角度了解 Kafka 主題是否可以用作聊天室標識符? 由於聊天室通常是在運行時創建的,因此這意味着 Kafka 主題應該在運行時創建。 可能嗎? 用戶應該能夠在創建新主題(聊天室)后立即訂閱它們。 可能嗎? ...
[英]Eviction of data from Kafka key value state store
我正在使用 kafkaStreams 執行聚合,它實際上將所有聚合記錄保存到 keyValue 狀態存儲中,針對我生成的特定鍵來唯一標識該聚合。 我沒有使用任何 kafka 窗口進行此聚合。 所以本質上這種方法將繼續監聽輸入數據,從而繼續聚合。 現在基於密鑰,我需要應用不同的邏輯從 stateSto ...
[英]load an XML file into kafka topic without schema
我正在嘗試將一個相當大的 XML 文件加載到 kafka 主題中。 我知道如何加載 JSON、AVRO 等,但它們在主題中被很好地解析,因為它們的模式可以被推斷出來。 我如何用 XML 做到這一點? 如何為 XML 消息設置密鑰? 我嘗試過這樣的事情 confluent kafka topic p ...
[英]Kafka Topic and Partition allocation for consumer
我剛開始研究kafka,我需要使用sarama go pkg開發一個消費者客戶端,客戶端應該是消費者組的一部分,需要從兩個主題A和B中讀取,客戶端需要從一些分區中讀取任何平衡策略分配給它的主題 A 和 B 它需要從所有分區中讀取(B 有點像廣播主題)。 工作流程: 消費群xx。 我有兩個 ...
[英]Ordering guarantees in Kafka in case of multiple threads
據我了解,如果我們想按順序寫入/讀取記錄,Kafka 生產者和消費者都必須為每個主題分區使用一個線程。 我是對的還是他們在這種情況下使用多個線程? ...
[英]Are there scalability problems when having single partitions in Kafka?
如果我有一個在 kafka 主題上發布事件的應用程序,並且我的消費者需要按照發布的順序讀取數據,那么我的主題只能有一個分區,因為 kafka 保證只在分區內排序。 但是,我讀到 kafka 使用分區來提供可伸縮性,即通過將一個主題的分區放置在多個代理上。 我還讀到,分區本身不能拆分。 由於只能在分 ...
[英]Generate a key for kafka messages that haven't any, in two topics, in order to merge / join them
來自poids_garmin_brut主題中用於輸入的一些行數據: 我設法用那個小方法創建了兩個主題poids_garmin_split_date和poids_garmin_split_valeursPoids :public StreamsBuilder extraire(StreamsBuild ...
[英]Correct Number of Partitions/Replicas for @RetryableTopic Retry Topics
你好 Stack Overflow 社區和任何熟悉 spring-kafka 的人! 我目前正在開發一個項目,該項目利用 spring-kafka 的 @RetryableTopic 功能來重新嘗試傳遞失敗的消息。 使用 @RetryableTopic 注釋的偵聽器正在使用具有 50 個分區和 3 ...
[英]How to get Load of my Kafka Topic. Is there any API with which I can measure the load on my Kafka Topic?
我的 spring 啟動應用程序上有一個 Kafka 主題,我在該應用程序上從生產者發送一些數據。 我想檢查我的主題的負載,以便我可以創建新主題,如果上一個主題的負載超過 ...
[英]Delete & Recreate All Kafka Topics in Bash Terminal
使用 Bash shell,有沒有辦法刪除然后重新創建運行命令顯示的所有 Kafka 主題 ...