SVM的gamma和cost參數

Question

大家，這是一個奇怪的現象，當我使用libSVM做一些預測時。

當我沒有設置SVM參數時，我將在測試集上獲得99.9％的性能。 然而，如果我設置參數'-c 10 -g 5'，我將在測試集上獲得大約33％的精度。

順便說一下，我使用的SVM工具包是LibSVM。

我想知道數據集是否有問題。 我無法弄清楚哪個結果更有說服力。

Answer 1

你碰巧遇到了一個問題， C和gamma的默認值都能正常工作（分別為1和1 / num_features）。

gamma=5明顯大於默認值。 當默認值接近最優時， gamma=5導致非常差的結果是完全合理的。 大gamma和大C的組合是過度擬合的完美配方（例如，高訓練集性能和低測試集性能）。