当多个数据流作业在 GCP 中并行运行时触发警报

Question

我正在使用谷歌云数据流来执行一些资源密集型数据流作业。 在给定时间，我的系统必须并行执行不超过 2 个作业。

由于每个作业都非常耗费资源，因此我正在寻找一种在运行 2 个以上数据流作业时触发警报的方法。

我尝试实现一个 custom_count，它在每个作业开始后递增。 但 custom_couter 仅在作业执行后显示。 到那时触发警报可能为时已晚。

Answer 1

您可以修改项目的配额dataflow.googleapis.com/job_count限制为1，并且该项目中不能同时运行两个作业。 配额是项目级别的，不会影响其他项目。

Answer 2

另一种选择是使用 GCP 监控系统来观察正在运行的数据流作业。 例如，您可以使用 Elastic Cloud（可通过 Marketplace 获取）加载所有相关指标和日志。 Elastic 可以对您感兴趣的每个 state 进行可视化和提醒。我发现这个terraform 项目对于开始使用该方法非常有帮助。