sci-kit learn：使用 X.reshape(-1, 1) 重塑数据

Question

我正在训练一个用于文本分类的 python (2.7.11) 分类器，在运行时我收到一条已弃用的警告消息，我不知道代码中的哪一行导致了它！ 错误/警告。 但是，代码工作正常并给我结果......

\\AppData\\Local\\Enthought\\Canopy\\User\\lib\\site-packages\\sklearn\\utils\\validation.py:386：DeprecationWarning：将一维数组作为数据在 0.17 中被弃用，并会在 0.19 中引发 ValueError。 如果您的数据具有单个特征，则使用 X.reshape(-1, 1) 或 X.reshape(1, -1) 如果它包含单个样本来重塑您的数据。

我的代码：

def main():
    data = []
    folds = 10
    ex = [ [] for x in range(0,10)]
    results = []
    for i,f in enumerate(sys.argv[1:]):
        data.append(csv.DictReader(open(f,'r'),delimiter='\t'))
    for f in data:       
        for i,datum in enumerate(f):
            ex[i % folds].append(datum)
    #print ex
    for held_out in range(0,folds):
        l = []
        cor = []
        l_test = []
        cor_test = []
        vec = []
        vec_test = []

        for i,fold in enumerate(ex):
            for line in fold:
                if i == held_out:
                    l_test.append(line['label'].rstrip("\n"))
                    cor_test.append(line['text'].rstrip("\n"))
                else:
                    l.append(line['label'].rstrip("\n"))
                    cor.append(line['text'].rstrip("\n"))

        vectorizer = CountVectorizer(ngram_range=(1,1),min_df=1)
        X = vectorizer.fit_transform(cor)
        for c in cor:        
            tmp = vectorizer.transform([c]).toarray()
            vec.append(tmp[0])
        for c in cor_test:        
            tmp = vectorizer.transform([c]).toarray()
            vec_test.append(tmp[0])

        clf = MultinomialNB()
        clf .fit(vec,l)
        result = accuracy(l_test,vec_test,clf)
        print result

if __name__ == "__main__":
    main()

知道哪一行会引发此警告吗？ 另一个问题是，用不同的数据集运行这段代码给了我同样的准确度，我不知道是什么原因造成的？ 如果我想在另一个python进程中使用这个模型，我查看了文档，我找到了一个使用pickle库的例子，但不是joblib。 所以，我尝试遵循相同的代码，但这给了我错误：

clf = joblib.load('model.pkl') 
pred = clf.predict(vec);

另外，如果我的数据是具有以下格式的 CSV 文件：“label \\t text \\n” 测试数据的标签列中应该包含什么？

提前致谢

Answer 1

您在clf.fit(vec,l).fit “vec”输入需要是[[]]类型，而不仅仅是[] 。 这是我在拟合模型时总是忘记的一个怪癖。

只需添加一组额外的方括号就可以解决问题！

Answer 2

它的：

pred = clf.predict(vec);

我在我的代码中使用了它并且它有效：

#This makes it into a 2d array
temp =  [2 ,70 ,90 ,1] #an instance
temp = np.array(temp).reshape((1, -1))
print(model.predict(temp))

Answer 3

2 解决方案：哲学___让你的数据从一维到二维

1. 只需添加： []

    vec = [vec]

2. 重塑您的数据

   import numpy as np vec = np.array(vec).reshape(1, -1)

Answer 4

如果您想找出Warning的来源，您可以暂时将Warnings提升为Exceptions 。 这会给你一个完整的回溯，因此你的程序遇到警告的行。

with warnings.catch_warnings():
    warnings.simplefilter("error")
    main()

如果您从命令行运行程序，您还可以使用-W标志。 有关警告处理的更多信息可以在python 文档中找到。

我知道这只是我回答的问题的一部分，但是您是否调试了代码？

Answer 5

因为一维数组将被弃用。 尝试将二维数组作为参数传递。 这可能会有所帮助。

clf = joblib.load('model.pkl') 
pred = clf.predict([vec]);

Answer 6

预测方法需要二维数组，你可以看这个视频，我也找到了准确的时间https://youtu.be/KjJ7WzEL-es?t=2602 。你必须从 [] 更改为 [[]]。