繁体   English   中英

AWS Glue Job Cloudformation - Cloudformation 中设置的值不固定

[英]AWS Glue Job Cloudformation - Values Set in Cloudformation Not Sticking

Cloudformation 设置下面的行为不像我预期的那样。 以下变量未使用以下模板设置。 手动设置变量时,作业成功运行。

  • IAM 角色
  • 类型

Description: "AWS Glue Job Test"
Resources:
  MyJobRole:
    Type: AWS::IAM::Role
    Properties:
      AssumeRolePolicyDocument:
        Version: "2012-10-17"
        Statement:
          -
            Effect: "Allow"
            Principal:
              Service:
                - "glue.amazonaws.com"
            Action:
              - "sts:AssumeRole"
      Path: "/"
      Policies:
        -
          PolicyName: "root"
          PolicyDocument:
            Version: "2012-10-17"
            Statement:
              -
                Effect: "Allow"
                Action: "*"
                Resource: "*"
  MyJob:
    Type: AWS::Glue::Job
    Properties:
      Name: cf-job1
      Command:
        Name: test-etl1
        ScriptLocation: "s3://project_bucket/releases/latest/mixpanel_job.py"
        PythonVersion: "3"
      Description: "Testing setup config"
      ExecutionProperty:
        MaxConcurrentRuns: 2
      MaxRetries: 2
      GlueVersion: "3.0"
      WorkerType: "G.1X"
      NumberOfWorkers: 2
      Timeout: 2880
      DefaultArguments:
        "--class": "GlueApp"
        "--enable-continuous-cloudwatch-log": "true"
        "--enable-job-insights": "true"
        "--enable-metrics": "true"
        "--enable-spark-ui": "true"
        "--extra-jars": "s3://project_bucket/releases/latest/jars/delta-core_2.12-1.0.1.jar"
        "--extra-py-files": "s3://project_bucket/releases/latest/lib.zip"
        "--job-bookmark-option": "job-bookmark-disable"
        "--job-language": "python"
        "--spark-event-logs-path": "s3://project_bucket/logs/"
      Role: !Ref MyJobRole

堆栈结果

这是 Glue 团队中 AWS Cloudformation 的一个已知问题。

只能使用指向另一个 ROLE 的物理 ARN 字符串值来设置运行作业的默认 IAM 角色

--job-language 参数设置不正确,这是一个已知问题。 这必须通过 Glue 控制台手动完成

控制台中的类型参数仍然没有 cloudformation 参数,必须手动设置。

此时无法实现真正​​的自动化。

我也遇到了这个。

从改变

      Role: !Ref MyJobRole

      Role: !GetAtt MyJobRole.Arn

它会正常工作。 :D

作为参考,cloudformation 资源类型的相关文档部分为https://docs.aws.amazon.com/AWSCloudFormation/latest/UserGuide/aws-resource-iam-role.html#aws-resource-iam-role-return-价值观

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM