使用分类变量使用sklearn进行线性回归

Question

我试图使用sk-learn在Python中运行常用的线性回归，但是我有一些我不知道如何处理的分类数据，特别是因为我使用pandas read.csv()导入了数据并且我学到了从以前的经验和阅读看，熊猫和sk-learn相处得不好（还）。

我的数据如下：

Salary  AtBat   Hits    League  EastDivision
475     315     81      1       0
480     479     130     0       0
500     496     141     1       1

我想使用AtBat，Hits，League和EastDivision来预测薪水，其中League和EastDivision是绝对的。

如果我通过numpy的loadtext()导入数据，我得到一个numpy数组，理论上我可以使用sklearn，但是当我使用DictVectorizer时，我得到一个错误。 我的代码是：

import numpy as np
from sklearn.feature_extraction import DictVectorizer as DV

nphitters=np.loadtxt('Hitters.csv',delimiter=',', skiprows=1)
vec = DV( sparse = False )
catL=vec.fit_transform(nphitters[:,3:4])

当我运行最后一行catL=vec.fit_transform(nphitters[:,3:4])时出现错误，错误是

Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/usr/lib/python2.7/dist-packages/sklearn/feature_extraction/dict_vectorizer.py", line 142, in fit_transform
    self.fit(X)
  File "/usr/lib/python2.7/dist-packages/sklearn/feature_extraction/dict_vectorizer.py", line 107, in fit
    for f, v in six.iteritems(x):
  File "/usr/lib/python2.7/dist-packages/sklearn/externals/six.py", line 268, in iteritems
    return iter(getattr(d, _iteritems)())
AttributeError: 'numpy.ndarray' object has no attribute 'iteritems'

我不知道如何解决它，另一件事是，一旦我得到分类数据，我该如何运行回归？ 就像分类变量是另一个数字变量一样？

我发现了几个类似于我的问题，但没有一个问题对我有用。

Answer 1

看起来.fit_transform()需要一个dict但.loadtxt()创建一个numpy数组。

您可以使用.to_dict()与读取数据后pandas 。

Answer 2

基本上会发生的是你将1和0的向量传递给一个函数，该函数将获取键和值（如字典）并为你创建一个表

D = [{'foo': 1, 'bar': 2}, {'foo': 3, 'baz': 1}]

会变成

array([[ 2.,  0.,  1.],
       [ 0.,  1.,  3.]])

要么

|bar|baz|foo  |<br>
|---|---|-----|<br>
| 2 | 0 | 1   |<br>
| 0 | 0 | 3   |<br>

阅读： http ： //scikit-learn.org/stable/modules/generated/sklearn.feature_extraction.DictVectorizer.html

在你的情况下，数据已准备好进行线性回归，因为功能联盟和东部分区已经是假人。

Answer 3

scikit-learn有两个新功能可以帮到你

sklearn.preprocessing.LabelBinarizer
sklearn.preprocessing.LabelEncoder

如果您想在一行中处理多个值，

sklearn.preprocessing.MultiLabelBinarizer

例如：

array = [(dog, cat),(dog),(dog,fish)]
mb = MultiLabelBinarizer()
mb.fit_transform(array)

>> array([1, 0, 1, 0, 0, 0],
       [0, 1, 0, 0, 1, 1],
       [0, 0, 1, 1, 0, 0]])