將經過訓練的模型加載到 SageMaker Estimator

Question

我已經基於 PyTorch 估計器在 sagemaker 上訓練了一個自定義模型。
訓練已完成，我驗證了模型工件已保存到 s3 位置。

我想將我訓練好的模型加載到我的 sagemaker 筆記本中，以便我可以執行分析/推理等等......

我做了如下，但我不確定這是否是正確的方法，因為它要求實例類型，據我所知，如果我要加載已經訓練好的估計器，我需要聲明哪種類型的計算實例一旦我開始部署模型進行推理，我就會使用它。

estimator = PyTorch(
        model_data = ModelArtifact_S3_LOCATION,
        entry_point ='train.py',
        source_dir = 'code',
        role = role,
        framework_version = '1.5.0',
        py_version = 'py3',)

Answer 1

如果訓練已經完成並且您想要設置推理，那么您想要指向您的 tar.gz 模型工件文件以創建端點或直接使用您的訓練估計器。 以下代碼塊是您要遵循的用於訓練、推理和預測的一般流程。

# Train my estimator
pytorch_estimator = PyTorch(entry_point='train_and_deploy.py',
                            instance_type='ml.p3.2xlarge',
                            instance_count=1,
                            framework_version='1.8.0',
                            py_version='py3')
pytorch_estimator.fit('s3://my_bucket/my_training_data/')

# Deploy my estimator to a SageMaker Endpoint and get a Predictor
predictor = pytorch_estimator.deploy(instance_type='ml.m4.xlarge',
                                     initial_instance_count=1)

# `data` is a NumPy array or a Python list.
# `response` is a NumPy array.
response = predictor.predict(data)

有關更多信息，請查看以下鏈接以在 SageMaker 上部署 PyTorch 模型。 https://sagemaker.readthedocs.io/en/stable/frameworks/pytorch/using_pytorch.html#deploy-pytorch-models

我為 AWS 工作，我的意見是我自己的