如何使用Spacy训练NER并将其集成到原始模型中

Question

我正在尝试使用Spacy训练NER和我自己的数据。 我的问题是如何将训练有素的NER整合到原始模型中？ 这样可以方便地连续训练并用于我的应用。 我没有找到任何样品。

我在下面找到了一些类似的例子来训练NER，但似乎所有这些都没有保存训练好的模型并将其整合回Spacy。 有些是在内存中保存，有些是将NER模型保存到附加文件夹中...那么如何以适当的方式来满足我的需求呢？ 谢谢 ！！！

我正在使用spacy 1.7.3

https://github.com/explosion/spaCy/blob/master/examples/training/train_ner.py https://github.com/explosion/spacy-dev-resources/blob/master/spacy-annotator/displacy/parse的.py

Answer 1

要向实体识别器提供培训示例，您首先需要创建GoldParse类的实例。 您可以以对齐格式或标记标记指定注释。

import spacy
import random
from spacy.gold import GoldParse
from spacy.language import EntityRecognizer

train_data = [
    ('Who is Chaka Khan?', [(7, 17, 'PERSON')]),
    ('I like London and Berlin.', [(7, 13, 'LOC'), (18, 24, 'LOC')])
]

nlp = spacy.load('en', entity=False, parser=False)
ner = EntityRecognizer(nlp.vocab, entity_types=['PERSON', 'LOC'])

for itn in range(5):
    random.shuffle(train_data)
    for raw_text, entity_offsets in train_data:
        doc = nlp.make_doc(raw_text)
        gold = GoldParse(doc, entities=entity_offsets)

        nlp.tagger(doc)
        ner.update(doc, gold)
ner.model.end_training()

为了简化这一点，您可以尝试此代码

doc = Doc(nlp.vocab, [u'rats', u'make', u'good', u'pets'])
gold = GoldParse(doc, [u'U-ANIMAL', u'O', u'O', u'O'])
ner = EntityRecognizer(nlp.vocab, entity_types=['ANIMAL'])
ner.update(doc, gold)

https://spacy.io/docs/usage/training-ner

Answer 2

spaCy文档讨论了如何更新预先存在的模型： https ：//spacy.io/docs/usage/training-ner

我自己没有这样做，所以不确定它是否容易做/跟随但它似乎是一个好的起点，无论如何。

Answer 3

我意识到这是一个迟到的补充，但当我偶然发现这篇文章并碰巧找到答案时，我也遇到了同样的问题。 基本上，只需将nlp值设置为训练模型所在的目录：

nlp = spacy.load('/model')