SVM scikitlearn的规范化或标准化数据输入

Question

正如主题所说，我在scikitlearn的SVM回归数据集的规范化和标准化方面遇到了一些麻烦。

我的问题是：

1. 当我想搜索SVM的参数（例如C和gamma ）时，我使用以下代码：

    param_grid = [ {'C': [1, 10, 100, 1000], 'kernel': ['linear']}, {'C': [1, 10, 100, 1000], 'gamma': [0.001, 0.0001], 'kernel': ['rbf']}, ] svr = svm.SVC() clf = grid_search.GridSearchCV(svr, param_grid) clf.fit(X_train,TargetT) 

   我应该在fit函数中标准化X_train和TargetT向量吗？

   X_train包含介于-1和1之间的值，而TargetT是0和1的向量，均值不等于0且std不等于1。

2. 我尝试在InputTraining和InputValidation数据集上使用preprocessing.StandardScaler()函数，但是当我检查均值的值时，我有每个特征的值不等于0（顺序是e-14），std就像是1.00000985。 这是正常的还是我做错了什么？ 我想使用缩放数据集作为SVM的输入作为代码belove：

    scalerI = preprocessing.StandardScaler() X_train = scalerI.fit_transform(InputT) X_test = scalerI.transform(InputCross) svr = SVR(kernel='rbf', epsilon=0.01, C=100, gamma = 0.01) y_rbf = svr.fit(X_train,TargetT) y_hat=svr.predict(X_test) 

非常感谢你。

Answer 1

1. 只有输入功能X_train需要标准化，不被认为是用于分类任务的串标记（例如整数值（例如，对于二进制分类的0阵列和1）或目标变量'spam' VS 'ham' ）。 对于回归任务（预测连续变量，如以摄氏度为单位的温度或以美元为单位的价格），它有时可以帮助标准化目标，但这通常没有标准化输入要素那么有用。

2. 1e-14足够接近0.0，而1.00000985接近1.0。

作为一方，您可以使用管道缩短代码：

from sklearn.pipeline import make_pipeline
pipeline = make_pipeline(
    preprocessing.StandardScaler(),
    SVR(kernel='rbf', epsilon=0.01, C=100, gamma = 0.01),
)
pipeline.fit(X_train, TargetT)
y_hat = pipeline.predict(X_test)

要对这种管道的内在模型的参数进行网格搜索，您必须使用类名的小写版本作为前缀：例如'svr__C' ， 'svr__gamma'和'svr__epsilon' 。