為什么隨着功能數量的增加，使用svm時分類精度會降低

Question

我正在使用libsvm進行圖像分類。 為什么當我使用更多特征進行分類時，我的預測准確性下降了？ 它不應該增加嗎？ 我的數據集大小固定為1600，用於訓練； 400，用於測試。

Answer 1

因為附加功能對於在功能空間中分離類可能根本沒有用。 准確性不一定與功能數量有關。

包含許多不良功能可能會導致您的SVM學習數據中的噪聲，從而損害准確性。

例如，如果您的額外功能如下所示（為清楚起見，請使用2D圖）：

這樣，將（在這種情況下）兩個類分開將不是一個很好的功能。 例如，如果SVM僅按照這種模式進行訓練，則在預測未來點的類別方面將不是很好。 但是，您的數據集中可能有一個如下所示的功能：

這樣的功能對於分隔兩個類將非常有用。