optimization - 在 Weka 中使用 RBFKernel(C 和 gamma)优化 SMO

Question

我正在尝试使用 Weka 中的 RBFKernel 和 SMO 分类器来训练一组约 30,000 个实例。我使用网格搜索来查找参数 C 和 gamma 的最佳值。这是我的配置:

weka.classifiers.meta.GridSearch -E ACC -y-property classifier.kernel.gamma -y-min -10.0 -y-max 5.0 -y-step 1.0 -y-base 10.0 -y-expression pow(BASE,I) -filter weka.filters.AllFilter -x-property classifier.c -x-min 5.0 -x-max 20.0 -x-step 1.0 -x-base 10.0 -x-expression I -sample-size 100.0 -traversal COLUMN-WISE -num-slots 1 -S 1 -W weka.classifiers.functions.SMO -- -C 1.0 -L 0.0010 -P 1.0E-12 -N 0 -V -1 -W 1 -K "weka.classifiers.functions.supportVector.RBFKernel -C 250007 -G 0.01"

我让它运行了超过 9 个小时，但没有结果，Weka 的状态消息仍然是“正在训练数据上构建模型...”。起初我认为网格搜索是问题所在，但是当我尝试使用 C 和 gamma 的默认值进行训练而不执行网格搜索时，我得到了相同的结果。我尝试使用 PolyKernel，分类器在几秒钟内就完成了训练(但不是在网格搜索中)。

如何让 RBFKernel 工作(使用默认值并在网格搜索中)？

Answer 1

您是否预处理训练数据？这对于RBF核来说非常重要。您可以尝试将特征标准化为 [-1,1]，然后再次尝试 RBF 内核。