如何在訓練svm模型時調整參數

Question

如果我使用rbf作為內核函數，則必須調整兩個參數（ c和g ）。 我可以搜索每個參數對（ ci ， gi ），並選擇最佳對。 有沒有更好的方法來找到最好的參數。

Answer 1

這個博客關於內核寬度選擇的亮點：

To pick, say 1000 pairs (x,x’) at random from your dataset, compute the distance
of all such pairs and take the median, the 0.1 and the 0.9 quantile. Now pick λ 
to be the inverse any of these three numbers. With a little bit of cross 
validation you will figure out which one of the three is best. In most cases you 
won’t need to search any further.

交叉驗證的這篇文章分析了這種方法運作良好的原因。 基本上可以避免改變所有或僅一個數據點的決策函數。

此外，您可以在SVM中的參數選擇中搜索“啟發式方法”。 例如，在M.Boardman等人的A Heuristic for Free Parameter Optimization with Support Vector Machines中 ，作者應用模擬退火來提高參數搜索效率，與窮舉網格搜索相比。