如何将word2vec返回的单词向量用作特征？

Question

我打算为此使用Scikit Learn的多层感知器分类器。
输出是该单词的性别，该单词应以单次热编码表示，例如男性为[1,0,0]，女性为[0，1，0]，女性为[0，0，1]。 现在输入之一是单词的单词向量。 这些向量中的每一个都有20个维度。 其他功能是语音标签的一部分和奇异（0）/复数（1）状态。 我的问题是我如何使用单词数组vector作为MLPClassifier中的功能？

Answer 1

您的w2v向量捕获了与单词有关的语义相似性。 该向量必须视为一个整体-它本身就是一个功能。

神经网络的一个不错的属性是它们自己提取和学习模式的能力。 作为输入，您可以考虑将单词向量与POS标签的向量化/数字等效项以及最后的奇点状态连接起来：

------------------- ----  -   
\_________________/ \__/  |     } ------ 25d vector input to the MLP (assuming your POS takes 4 spaces)
     w2v vector      POS state

只要您对训练，测试和看不见的数据遵循一致的方案，您的MLP就会使用整个输入从学习到的输入中自动提取特征。