在 R 中設置 SVM 分類的參數

Question

描述：

1. 對於數據集，我想通過使用徑向基礎 function ( RBF ) kernel 和Weston, Watkins native multi-class來應用SVM 。
2. rbf kernel 參數sigma必須調整，我想使用k-folds cross validation來做到這一點。 我考慮一個固定的C 。

解決方案：

看來我可以使用漂亮的 package mlr來執行此操作，因此，使用CV調整rbf參數sigma進行MSVM分類，（使用本教程）

#While C is fix = 3, define a range to search sigma over it. Search between [10^{-6}, 10^{6}]
num_ps = makeParamSet(
  makeDiscreteParam("C", values = 3),
  makeNumericParam("sigma", lower = -6, upper = 6, trafo = function(x) 10^x)
)
#Define the Grid search method
ctrl = makeTuneControlGrid()
#Apply the k-folds CV
rdesc = makeResampleDesc("CV", iters = 3L)

res = tuneParams("classif.ksvm", task = iris.task, resampling = rdesc,
  par.set = num_ps, control = ctrl)

問題：

對於這部分

res = tuneParams("classif.ksvm", task = iris.task, resampling = rdesc,
      par.set = num_ps, control = ctrl)

根據文檔，通過使用集成學習器 classif.ksvm ，我要求應用 package ksvm中定義的多類分類。

我怎么知道使用的是哪種方法和 kernel 類型？ 我的意思是，如何強制學習者classif.ksvm使用已經在ksvm中定義的分類類型（ kbb-svc ）和 kernel （ rbfdot ）？

如果這是不可能的，那么如何定義一個符合我所有要求的新學習者？

Answer 1

您必須在學習器中設置固定參數。 因此，您首先必須創建它：

library(mlr)
lrn = makeLearner("classif.ksvm", par.vals = list(C = 3, type = "kbb-svc", kernel = "rbfdot"))

然后，您只需在 ParamSet 中定義要更改的參數

num_ps = makeParamSet(
  makeNumericParam("sigma", lower = -6, upper = 6, trafo = function(x) 10^x)
)

然后你可以像你的例子一樣進行調整

ctrl = makeTuneControlGrid()
rdesc = makeResampleDesc("CV", iters = 3L)
res = tuneParams(lrn, task = iris.task, resampling = rdesc, par.set = num_ps, control = ctrl)