matlab - Matlab 中的支持向量机 : Meaning of Parameter 'box constraint' in function fitcsvm

Question

我是 Matlab 中支持向量机的新手，需要一点帮助。

我想使用 Statistics Toolbox 的内置函数 fitcsvm 训练支持向量机。当然，有许多参数选择可以控制 SVM 的训练方式。

Matlab 的帮助是关于参数如何存档更好的训练结果的一点点工资。特别是参数'Box Contraint'似乎对所选支持向量的数量和泛化质量有重要影响。

帮助(http://de.mathworks.com/help/stats/fitcsvm.html#bt8v_z4-1)说

A parameter that controls the maximum penalty imposed on margin-violating observations, and aids in preventing overfitting (regularization).

If you increase the box constraint, then the SVM classifier assigns fewer support vectors. However, increasing the box constraint can lead to longer training times.

这个参数到底是怎么用的？它与 the Wikipedia 中的软边际因子 C 相同还是类似？引用？还是完全不同的东西？

感谢您的帮助。

Answer 1

您绝对是在正确的道路上。虽然 fitcsvm 文档中的描述(正如您在问题中发布的那样)非常简短，但您应该看看 Understanding Support Vector Machines MATLAB 文档中的站点。

在不可分离的情况下(通常称为 Soft-Margin SVM)，允许错误分类，代价是惩罚因子 C。 SVM 的数学公式变为:

松弛变量 s_i 会产生一个由 C 加权的惩罚项。使 C 变大会增加错误分类的权重，从而导致更严格的分离。此因子 C 称为 box constraint。这个名字的原因是，在对偶优化问题的表述中，Langrange 乘子被限定在 [0,C] 范围内。因此，C 对拉格朗日乘子构成了框约束。

tl;dr 你猜对了，它是 soft margin SVM 中的 C。