cost 73 ms
我如何告知 confluence cloud 上的主題以編程方式使用特定模式?

[英]How do I tell a topic on confluence cloud to use a specific schema programmatically?

所以我知道如何使用 confluent_kafka AdminClient 實例在 Confluent Cloud 上創建主題,但我不確定如何以編程方式設置主題的消息模式? 澄清一下,我將要使用的模式保存在本地的 avro 模式文件 (.avsc) 中 ...

卡夫卡復制因子

[英]Kafka replication factor

當我們說創建主題時 RF = 3。這是否意味着每個分區將總共有 3 個副本——其中 1 個是領導者,2 個是副本? 或者這是否意味着在 1 個領導者副本之上將有 3 個副本,因此總共有 4 個副本? ...

Kafka 沒有向其他分區發送消息

[英]Kafka is not sending messages to other partitions

安裝在 Mac (Intel) 上的 Apache Kafka。 單一本地生產者和單一本地消費者。 創建具有 3 個分區和 1 個復制因子的 1 個主題: 生產者代碼: 生產者消息: 生成消息時(通過生產者控制台手動),所有消息都進入同一個分區。 他們不應該跨分區分布嗎? 我試過 3 條記錄(如上所 ...

kafka-topics.bat --list --bootstrap-server localhost:9092 未返回列表

[英]kafka-topics.bat --list --bootstrap-server localhost:9092 is not returning list

kafka-topics.bat --list --bootstrap-server localhost:9092 沒有返回任何東西 kafka-topics.bat --list --bootstrap-server localhost:9092 沒有顯示任何內容上面的命令旨在向我顯示主題列表, ...

Kafka +如何排除與任何主題文件夾無關的文件夾

[英]Kafka + how to exclude folder that not related to any topic folders

我們有 3 個節點的 Kafka Custer(所有機器都是 RHEL 7.9 版本) 所有主題及其分區都位於文件夾/var/kafka/kafka-logs下當/var/kafka/kafka-logs下的任何文件夾不屬於主題和分區時,Kafka 代理服務非常敏感 - 在這種情況下,代理將失敗,但 ...

對創建組授權異常的主題的 Kafka 權限

[英]Kafka permission on a topic creating a Group Authorization Exception

所以我有一個使用 SSL 的 Zookeeper 運行的 Kafka 集群。 我在 Kafka ACL 上向用戶授予了特定主題的讀取權限:我可以在 zookeeper 中看到它。 當此用戶使用數據時,他們將獲得組授權異常。 我需要將每個組都添加到 ACL 嗎? 我對這個錯誤感到困惑。 謝謝 ...

創建表指定的列和屬性

[英]create table- specified columns and properties

在 KSQL 中,我需要基於 Kafka 主題“testtopic”創建一個表,其中包含如下消息:[ {“name”:“bank meeting”,“type”:“request for loan”,“num_rep”:1 }, { "name": "bank meeting", "type": " ...

Kafka:增加分區后“經紀人無法驗證記錄”

[英]Kafka: "Broker failed to validate record" after increasing partition

我通過 terraform 增加了現有 Kafka 主題的分區。 分區大小已成功增加,但是當我測試與主題的連接時,我收到“經紀人無法驗證記錄” 測試方法: 我曾嘗試在網上搜索並遇到一種稱為模式驗證配置的東西: https ://docs.confluent.io/cloud/current/s ...

在 Active-Passive Kafka 集群架構中創建 Kafka 主題

[英]Create Kafka topic in Active-Passive Kafka cluster architecture

我試圖弄清楚在主動-被動 Kafka 集群架構中創建主題的正確方法是什么。 假設我們在兩個獨立的可用區中有兩個 Kafka 集群(主動-被動)。 我知道當數據從主動集群復制到被動集群時,會發生主題鏡像。 問題是。 當我創建一個主題時,我應該在兩個集群上分別創建它嗎? 如果沒有,那么鏡像制造者應該 ...

Kafka 主題作為聊天室標識符

[英]Kafka topics as chatroom identifiers

我對可以使用不同聊天室的消息聊天應用程序感興趣。 我試圖從 Kafka 概念的角度了解 Kafka 主題是否可以用作聊天室標識符? 由於聊天室通常是在運行時創建的,因此這意味着 Kafka 主題應該在運行時創建。 可能嗎? 用戶應該能夠在創建新主題(聊天室)后立即訂閱它們。 可能嗎? ...

從 Kafka 鍵值狀態存儲中驅逐數據

[英]Eviction of data from Kafka key value state store

我正在使用 kafkaStreams 執行聚合,它實際上將所有聚合記錄保存到 keyValue 狀態存儲中,針對我生成的特定鍵來唯一標識該聚合。 我沒有使用任何 kafka 窗口進行此聚合。 所以本質上這種方法將繼續監聽輸入數據,從而繼續聚合。 現在基於密鑰,我需要應用不同的邏輯從 stateSto ...

將 XML 文件加載到沒有架構的 kafka 主題中

[英]load an XML file into kafka topic without schema

我正在嘗試將一個相當大的 XML 文件加載到 kafka 主題中。 我知道如何加載 JSON、AVRO 等,但它們在主題中被很好地解析,因為它們的模式可以被推斷出來。 我如何用 XML 做到這一點? 如何為 XML 消息設置密鑰? 我嘗試過這樣的事情 confluent kafka topic p ...

消費者的Kafka主題和分區分配

[英]Kafka Topic and Partition allocation for consumer

我剛開始研究kafka,我需要使用sarama go pkg開發一個消費者客戶端,客戶端應該是消費者組的一部分,需要從兩個主題A和B中讀取,客戶端需要從一些分區中讀取任何平衡策略分配給它的主題 A 和 B 它需要從所有分區中讀取(B 有點像廣播主題)。 工作流程: 消費群xx。 我有兩個 ...

在 Kafka 中有單個分區時是否存在可伸縮性問題?

[英]Are there scalability problems when having single partitions in Kafka?

如果我有一個在 kafka 主題上發布事件的應用程序,並且我的消費者需要按照發布的順序讀取數據,那么我的主題只能有一個分區,因為 kafka 保證只在分區內排序。 但是,我讀到 kafka 使用分區來提供可伸縮性,即通過將一個主題的分區放置在多個代理上。 我還讀到,分區本身不能拆分。 由於只能在分 ...

@RetryableTopic 重試主題的正確分區/副本數

[英]Correct Number of Partitions/Replicas for @RetryableTopic Retry Topics

你好 Stack Overflow 社區和任何熟悉 spring-kafka 的人! 我目前正在開發一個項目,該項目利用 spring-kafka 的 @RetryableTopic 功能來重新嘗試傳遞失敗的消息。 使用 @RetryableTopic 注釋的偵聽器正在使用具有 50 個分區和 3 ...

如何獲取我的 Kafka 主題的負載。 是否有任何 API 可以用來測量我的 Kafka 主題的負載?

[英]How to get Load of my Kafka Topic. Is there any API with which I can measure the load on my Kafka Topic?

我的 spring 啟動應用程序上有一個 Kafka 主題,我在該應用程序上從生產者發送一些數據。 我想檢查我的主題的負載,以便我可以創建新主題,如果上一個主題的負載超過 ...


 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM