在 flink 中使用 RocksDB 时遇到消费者问题

Question

我有一份使用 RabbitMQ 的工作，我使用的是 FS State Backend，但似乎状态的大小变得更大，然后我决定将我的状态移动到 RocksDB。 问题是，在运行作业的前几个小时内，如果流量变慢，则在更长时间后发生事件，但是当流量再次变高时，消费者开始出现问题（事件堆积为未确认），然后这些问题是反映在应用程序的其余部分。

我有：4 个 CPU 核心
本地磁盘
16GB 内存
Unix环境
弗林克 1.11
斯卡拉 2.11 版
1 个使用少量 keyedStream 运行的作业，以及大约 10 个转换，并沉入 Postgres

一些配置

flink.buffer_timeout=50
flink.maxparallelism=4
flink.memory=16
flink.cpu.cores=4
#checkpoints
flink.checkpointing_compression=true
flink.checkpointing_min_pause=30000
flink.checkpointing_timeout=120000
flink.checkpointing_enabled=true
flink.checkpointing_time=60000
flink.max_current_checkpoint=1
#RocksDB configuration
state.backend.rocksdb.localdir=home/username/checkpoints (this is not working don't know why)
state.backend.rocksdb.thread.numfactory=4
state.backend.rocksdb.block.blocksize=16kb
state.backend.rocksdb.block.cache-size=512mb
#rocksdb or heap
state.backend.rocksdb.timer-service.factory=heap (I have test with rocksdb too and is the same)
state.backend.rocksdb.predefined-options=SPINNING_DISK_OPTIMIZED

让我知道是否需要更多信息？

Answer 1

state.backend.rocksdb.localdir应该是绝对路径，而不是相对路径。 并且此设置不是用于指定检查点的位置（不应在本地磁盘上），此设置用于指定工作状态的保存位置（应在本地磁盘上）。

您的工作正经历背压，这意味着管道的某些部分无法跟上。 背压的最常见原因是 (1) 接收器跟不上，以及 (2) 资源不足（例如，并行度太低）。

您可以通过使用丢弃接收器运行作业来测试 postgres 是否是问题。

查看各种指标应该能让您了解哪些资源可能配置不足。