R 理解 {caret} train(tuneLength = ) 和来自 {kernlab} 的 SVM 方法

Question

试图更好地了解如何train(tuneLength = )工作于 {caret} .当我试图理解来自 {kernlab} 的 SVM 方法之间的一些差异时，我感到困惑。我已经查看了文档 ( here ) 和插入符号培训页面 ( here )。

我的玩具示例是使用 iris 创建五个模型。数据集。结果是 here ，可重现的代码是 here (它们很长，所以我没有将它们复制并粘贴到帖子中)。

来自 {caret}文档:

tuneLength
an integer denoting the amount of granularity in the tuning parameter grid. By default, this argument is the number of levels for each tuning parameters that should be generated by train. If trainControl has the option search = "random", this is the maximum number of tuning parameter combinations that will be generated by the random search. (NOTE: If given, this argument must be named.)

在 this example , trainControl(search = "random")和 train(tuneLength = 30) ，但似乎有 67 个结果，而不是 30 个(调整参数组合的最大数量)？我试着四处看看是否有 30 个独特的 ROC值，甚至 ydim值，但据我所知，它们不是。

对于玩具示例，我创建了下表:



有没有办法看到“引擎盖下”发生了什么？例如， M1 ( svmRadial ) 和 M3 ( svmRadialSigma ) 都采用并给出相同的调谐参数，但基于调用 $results似乎以不同的方式使用它们？

我对 train(tuneLength = 9)的理解是两个模型都会产生 sigma 的结果和 C各带 9 values, 9 times自 9是每个调整参数的级别数(随机搜索除外)？同样， M4将是 9^3自 train(tuneLength = 9)还有 3调整参数？

迈克尔

Answer 1

我需要更多地更新包文档，但详细信息拼写在 package web page for random search 上。 :

"The total number of unique combinations is specified by the tuneLength option to train."

然而，这是使用 RBF 内核的特别困惑的 SVM。这是一个运行:

svmRadial调整成本并使用单个值 sigma基于 kern lab的 sigest功能。对于网格搜索，tuneLength是要测试的成本值的数量，对于随机搜索，它是要评估的 (cost, sigma) 对的总数。

svmRadialCost与 svmRadial 相同但是 sigest在每个重采样循环内运行。对于随机搜索，它不会调整 sigma .

svmRadialSigma使用网格搜索调整成本和 sigma .在认知表现欠佳的时刻，我将其设置为最多尝试 sigma 的 6 个值。在网格搜索期间，因为我觉得成本空间需要更大的范围。对于随机搜索，它的作用与 svmRadial 相同.

svmRadialWeight与 svmRadial 相同但也考虑了类权重，仅适用于 2 类问题。

至于网页上的 SOM 示例，那是一个错误。我对 SOM 参数空间进行了过采样，因为需要为 xdim <= ydim & xdim*ydim < nrow(x) 设置过滤器.错误来自我没有保留适量的参数。