簡體   English   中英

沒有活躍成員的 kafka 消費者組的 CURRENT-OFFSET 和 LAG

[英]CURRENT-OFFSET and LAG of kafka consumer group that has no active members

這兩個怎么設置? 我在 kafka-consumer-groups.sh 中觀察到的行為是,當新消息附加到某個分區時,它首先會增加其 LOG-END-OFFSET 和 LAG 列,一段時間后,CURRENT-OFFSET 列會增加並且LAG 列遞減,盡管沒有任何消費者實際提交偏移量,因為沒有活動消費者。 我是對的,這是否總是發生在沒有活躍成員的消費者群體中,或者是否有可能關閉第二階段,模擬不存在的消費者提交的抵消? 這實際上令人困惑,您必須考慮消費者組中沒有活動成員的信息,以便正確了解 CURRENT-OFFSET 和 LAG 列的實際含義(在這種情況下不多)。

好的,似乎消費者實際上確實不斷地連接和輪詢消息並提交偏移量,但是以不穩定的方式(每次斷開連接),因此 kafka-consumer-groups.sh 總是報告好像沒有活動成員團體。 這是一個以這種方式運行的 flink 作業。 那可能嗎?

如果保留策略啟動並刪除舊消息,則延遲可能會減少(如果發布的日志少於刪除的日志),因為CURRENT-OFFSET將自身定位在最早的可用日志中。

我會檢查您的主題的保留政策是什么,因為這可能是由於已刪除的消息:滯后不關心被清除的消息,只關心活躍的消息。

這與連接和斷開 kafka 集群無關,這將是一種緩慢且無效的方式。 它與 flink kafka consumer 的實現方式有關,此處描述: Flink Kafka Connector

提交的偏移量只是為了監控目的而公開消費者進度的一種手段。

它的基本作用是,它不以標准消費者的身份訂閱主題,使用消費者組及其標准協調者和領導者機制,而是直接分配分區,並且僅向消費者組提交偏移量以用於監控目的,盡管它有使用方法這些偏移量也可以繼續使用,請參見此處,但無論如何,這就是為什么這些組在 kafka 看來沒有活躍成員,並且仍然得到提交的偏移量。

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM