访问 Sagemaker 管道中 Lambda 步骤的返回值

Question

我添加了一个 Lambda 步骤作为我的 Sagemaker 管道中的第一步。 它处理一些数据并创建 2 个文件作为 output 的一部分，如下所示：

from sagemaker.workflow.lambda_step import LambdaStep, Lambda, LambdaOutput, LambdaOutputTypeEnum

# lamb_preprocess = LambdaStep(func_arn="")

output_param_1 = LambdaOutput(output_name="status", output_type=LambdaOutputTypeEnum.Integer)
output_param_2 = LambdaOutput(output_name="file_name_a_c_drop", output_type=LambdaOutputTypeEnum.String)
output_param_3 = LambdaOutput(output_name="file_name_q_c_drop", output_type=LambdaOutputTypeEnum.String)

step_lambda = LambdaStep(
    name="ProcessingLambda",
    lambda_func=Lambda(
        function_arn="arn:aws:lambda:us-east-1:xxxxxxxx:function:xxxxx"
    ),
    inputs={
        "input_data": input_data,
        "input_file": trigger_file,
        "input_bucket": trigger_bucket
    },
    outputs = [
        output_param_1, output_param_2, output_param_3
    ]
)

在我的下一步中，我想触发一个处理作业，我需要将上面 Lambda 函数的输出作为输入传递给它。 我正在尝试这样做：

inputs = [
    ProcessingInput(source=step_lambda.properties.Outputs["file_name_q_c_drop"], destination="/opt/ml/processing/input"),
    ProcessingInput(source=step_lambda.properties.Outputs["file_name_a_c_drop"], destination="/opt/ml/processing/input"),
]

但是，当尝试创建处理步骤时，我收到一条验证消息说

Object of type Properties is not JSON serializable

我在这里遵循了数据依赖文档： https：https://sagemaker.readthedocs.io/en/stable/amazon_sagemaker_model_building_pipeline.html#lambdastep并尝试访问step_lambda.OutputParameters["file_name_a_c_drop"]但它出错说'LambdaStep' object has no attribute 'OutputParameters'

如何在 Sagemaker 管道中正确访问 LambdaStep 的返回值？

Answer 1

您可以按以下方式访问 output - step_lambda.OutputParameters["output1"] 。 您不需要添加.properties

Answer 2

要在另一个步骤中访问 LambdaStep output，您可以执行以下操作：

step_lambda.properties.Outputs["file_name_a_c_drop"]

Answer 3

尝试这个

steplambda.properties.ProcessingOutputConfig.Outputs["file_name_q_c_drop"].S3Output.S3Uri