在 aws sagemaker 上部署 tensorflow 微调 bert
[英]deploy tensorflow fine tunned bert on aws sagemaker
原文
2021-10-16 21:03:14
9
0
python/
amazon-web-services/
tensorflow/
deep-learning/
bert-language-model
问题描述
我有一个微调的 tensorflow bert 模型，其中我将权重保存为 .h5 文件。 我想在 sagemaker 上部署这个模型，但是我找不到对 tensorflow bert 的支持，而且我只遇到了 pytorch 支持。
我还遇到过 aws 文档，其中解释了如何部署预训练的 tensorflow 模型https://aws.amazon.com/blogs/machine-learning/deploy-trained-keras-or-tensorflow-models-using-amazon-贤者/
但是他们提供了一个函数来将模型转换为它们的格式，这会导致错误：
AttributeError: 层 tf_bert_for_sequence_classification 未连接，无输入返回。
有谁知道我能做什么？ 谢谢！
0 个解决方案
如何在 SageMaker 上运行和部署 AWS 的 XGBoost MNIST 示例笔记本？
[英]How to run and deploy AWS's XGBoost MNIST sample notebook on SageMaker?
无法在 AWS Sagemaker 上部署本地训练的逻辑回归 model
[英]Unable to deploy locally trained Logistic Regression model on AWS Sagemaker
借助 AWS SageMaker，是否可以使用 sagemaker SDK 部署预训练模型？
[英]With AWS SageMaker, is it possible to deploy a pre-trained model using the sagemaker SDK?
如何使用AWS Sagemaker托管的自定义Tensorflow模型的多个输入
[英]How to use multiple inputs for custom Tensorflow model hosted by AWS Sagemaker
AWS Sagemaker Tensorflow 服务错误：张量名称：<> 没有形状信息
[英]AWS Sagemaker Tensorflow Serving Error: Tensor name: <> has no shape information
CUDA：运行时错误：memory 中的 CUDA - BERT sagemaker
[英]CUDA: RuntimeError: CUDA out of memory - BERT sagemaker
声明:本站的技术帖子网页，遵循CC BY-SA 4.0协议，如果您需要转载，请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.
相关问题
AWS Sagemaker - PCA Model 未部署
如何使用 CDK、sagemaker 部署 AWS？
如何在 SageMaker 上运行和部署 AWS 的 XGBoost MNIST 示例笔记本？
无法在 AWS Sagemaker 上部署本地训练的逻辑回归 model
借助 AWS SageMaker，是否可以使用 sagemaker SDK 部署预训练模型？
如何使用AWS Sagemaker托管的自定义Tensorflow模型的多个输入
AWS Sagemaker Tensorflow 服务错误：张量名称：<> 没有形状信息
CUDA：运行时错误：memory 中的 CUDA - BERT sagemaker
Amazon SageMaker中的Tensorflow服务
使用TensorFlow的SageMaker地面真相
相关标签