[英]Limit concurrent executions on AWS Data Pipeline
有沒有辦法限制AWS Data Pipeline上的並發執行? 我們需要將同時執行限制為1。
類似於Oozie的<concurrency>
屬性嗎?
來自oozie docs:
並發:可以同時運行此作業的最大操作數。 此值允許實現並提交協調器應用程序的多個實例,並允許操作趕上延遲的處理。 默認值為1。
您可以使用EC2Resource / EmrCluster下的maxActiveInstances字段來實現此目的。
參考-
https://docs.aws.amazon.com/datapipeline/latest/DeveloperGuide/dp-object-emrcluster.html
https://docs.aws.amazon.com/datapipeline/latest/DeveloperGuide/dp-object-ec2resource.html
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.