BERT model 从 DeepPavlov 到 HuggingFace 格式的转换
[英]BERT model convertation from DeepPavlov to HuggingFace format
原文
2023-01-18 04:38:43
5
1
python-3.x/
huggingface-transformers/
bert-language-model/
huggingface/
deeppavlov
问题描述
我有一个包含 ruBERT model 的文件夹，它使用 Deeppavlov 库的应用程序进行了微调。 该文件夹包含以下 model 个文件：
我如何将它转换为 Huggingface 格式以便我可以以这种方式加载它？
from transformers import TFAutoModelForSequenceClassification
model_name = "folder_with_ruBERT"
auto_model_rubert = TFAutoModelForSequenceClassification.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name, do_lower_case = False)
1 个解决方案
解决方案1
0 2023-01-18 07:23:28
无需将 tf 检查点转换为 huggingface 格式。 DeepPavlov 的预训练语言模型已经可以用作 huggingface 模型。
如何使用 BERT 模型从 [CLS] 令牌中提取句子嵌入
[英]How to extract Sentence Embedding Using BERT model from [CLS] token
使用 BERT 作为集线器编译模型。 KerasLayer 在 TPUStrategy 范围内失败
[英]Compiling model using BERT as a hub.KerasLayer fails in TPUStrategy scope
声明:本站的技术帖子网页，遵循CC BY-SA 4.0协议，如果您需要转载，请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.
相关问题
在 Huggingface BERT 模型之上添加密集层
如何在 deeppavlov (NER) Python 中训练您的 model 3
如何使用 BERT 模型从 [CLS] 令牌中提取句子嵌入
伯特 Model 没有加载泡菜
使用自定义数据训练 model 时出现 Huggingface 错误
在本地下载预训练的 BERT model
如何使用huggingface T5模型测试翻译任务？
如何从 BERT 分类器规范化 output
Bert 预训练 model 每次都随机给出 output
使用 BERT 作为集线器编译模型。 KerasLayer 在 TPUStrategy 范围内失败
相关标签