合并单词对列表中的第一个单词，具体取决于这些对中的第二个单词

Question

我有一个程序（NLTK-NER）为我提供以下列表：

[
    ('Barak', 'PERSON'),
    ('Obama', 'PERSON'),
    ('is', 'O'),
    ('the', 'O'),
    ('president', 'O'),
    ('of', 'O'),
    ('United', 'LOCATION'),
    ('States', 'LOCATION'),
    ('of', 'LOCATION'),
    ('America', 'LOCATION')
]

如您所见，“ Barak”和“ Obama”是“ PERSON”类型的单词，我想将它们（以及“ LOCATION”类型的单词）合并在一起，如下所示：

['Barak Obama','is','the','president', 'of','United States of America']

我该如何解决这个问题？

Answer 1

本质上，我们希望在这里进行的工作是将一些classified_text itertools.groupby()组合在一起……因此，有理由相信itertools.groupby()可以提供帮助。 首先，我们需要一个关键功能，将带有标签'PERSON'或'LOCATION'视为相似，并将所有其他项目视为不同。

由于我们需要一种方法来区分具有相同标签（而不是'PERSON'或'LOCATION' ）的相邻项目，例如('is', 'O'), ('the', 'O')等。我们可以为此使用enumerate() ：

>>> list(enumerate(classified_text))
[..., (2, ('is', 'O')), (3, ('the', 'O')), (4, ('president', 'O')), ...]

现在我们知道要提供什么作为groupby()输入，我们可以编写关键函数：

def person_or_location(item):
    index, (word, tag) = item
    if tag in {'PERSON', 'LOCATION'}:
        return tag
    else:
        return index

请注意，赋值中的index, (word, tag)的结构与我们枚举列表中每个项目的结构相匹配。

一旦知道了这一点，就可以编写另一个函数来进行实际的合并：

from itertools import groupby

def merge(tagged_text):
    enumerated_text = enumerate(tagged_text)
    grouped_text = groupby(enumerated_text, person_or_location)
    return [
        ' '.join(word for index, (word, tag) in group)
        for key, group in grouped_text
    ]

它在起作用：

>>> merge(classified_text)
['Barak Obama', 'is', 'the', 'president', 'of', 'United States of America']

Answer 2

这是我想到的第一件事，很确定可以对其进行优化，但这是一个好的开始。

    classified_text = [('Barak', 'PERSON'), ('Obama', 'PERSON'), ('is', 'O'), ('the', 'O'), ('president', 'O'), ('of', 'O'), ('United', 'LOCATION'), ('States', 'LOCATION'), ('of', 'LOCATION'), ('America', 'LOCATION')]

    # Reverse the list so it pops the first element
    classified_text.reverse()
    # Create an aux list to store the result and add the first item
    new_text = [classified_text.pop(), ]
    # Iterate over the text
    while classified_text:
        old_word = new_text[-1]
        new_word = classified_text.pop()

        # If previous word has same type, merge. 
        # Avoid merging 'O' types
        if old_word[1] == new_word[1] and new_word[1] != 'O':
            new_text[-1] = (
                ' '.join((old_word[0], new_word[0])),
                new_word[1],
            )

        # If not just add the tuple
        else:
            new_text.append(new_word)

    # Remove the types from the list and you have your result
    new_text = [x[0] for x in new_text]