Pytorch 模型部署到 sagemaker

Question

我已經訓練了我的 yolov5 model，並且有 weights.pt，現在我需要使用 sagemaker 部署它，為此我需要創建一個端點。 我正在關注此教程https://sagemaker-examples.readthedocs.io/en/latest/frameworks/pytorch/get_started_mnist_deploy.html因為我正在使用圖像，所以我正在嘗試自定義 input_fn、output_fn 函數，但不幸的是，當我運行推理我總是出錯，我的問題是我應該遵循什么邏輯來自定義這些功能？

Answer 1

這些功能中的每一個都有不同的目的。 使用 input_fn 你想為你的 model 所期望的輸入做准備。 使用 model_fn 你想要加載你的 pytorch model。使用 predict_fn 你想要你的預測/推理 function 代碼。 使用 output_fn，您可以調整從端點返回的 output。 查看本文以更深入地了解每個處理程序以及示例： https://aws.plainenglish.io/adding-custom-inference-scripts-to-amazon-sagemaker-2208c3332510