如何在 AWS SageMaker 中部署自定義 model？

Question

我有一個自定義機器學習預測 model。 我還有一個用戶定義的 Estimator class，它使用 Optuna 進行超參數調整。 我需要將此 model 部署到 SageMaker，以便從 lambda function 調用它。

我在為 model 和 Estimator 創建容器的過程中遇到了麻煩。

我知道 SageMaker 有一個可用於 Optuna 的 scikit learn 容器，但我將如何利用它來包含我自己的 Estimator class 中的功能？ 此外，model 是傳遞給此 Estimator class 的參數之一，那么如何將其定義為單獨的訓練作業以使其成為端點？

這是調用 Estimator class 和 model 的方式：

sirf_estimator = Estimator(
    SIRF, ncov_df, population_dict[countryname],
    name=countryname, places=[(countryname, None)],
    start_date=critical_country_start
    )
sirf_dict = sirf_estimator.run()

在哪里：

1. Model 名稱：SIRF
2. 清理數據集：ncov_df

如果有人可以調查一下，那將非常有幫助，非常感謝！

Answer 1

SageMaker 推理端點當前依賴於基於 Docker 圖像的接口。 在基礎級別，您可以設置一個 Docker 映像，該映像運行 web 服務器並響應 AWS 需要的端口上的端點。 本指南將向您展示如何操作： https://docs.aws.amazon.com/sagemaker/latest/dg/your-algorithms-inference-code.html 。

這是一項煩人的工作。 如果您使用的是眾所周知的框架，他們有一個容器庫，其中包含一些您可以重用的樣板代碼： https://github.com/aws/sagemaker-containers 。 您也許可以從那里重用一些代碼，但要對其進行自定義。

或者根本不使用 SageMaker 推理端點：) 如果您的 model 可以適應 AWS Lambda 的大小/memory 限制，那將是一個更簡單的選擇！