是否可以在不使用 SageMaker SDK 的情況下為我在 AWS SageMaker 中創建的模型設置終端節點

Question

我已經在 AWS SageMaker 實例上創建了自己的模型，並帶有自己的訓練和推理循環。 我想部署它，以便我可以從 AWS Lambda 調用模型進行推理。

我根本沒有使用 SageMaker 包進行開發，但是我看過的每個教程（這里是一個）都是這樣做的。

如何在不使用 SageMaker 包的情況下創建端點。

Answer 1

您可以使用 boto3 庫來執行此操作。

這是一個偽代碼示例 -

import boto3
sm_client = boto3.client('sagemaker')
create_model_respose = sm_client.create_model(ModelName=model_name, ExecutionRoleArn=role, Containers=[container] )

create_endpoint_config_response = sm_client.create_endpoint_config(EndpointConfigName=endpoint_config_name)

create_endpoint_response = sm_client.create_endpoint(EndpointName=endpoint_name, EndpointConfigName=endpoint_config_name)