language-agnostic - 为了将数据分类为 N 个类别，是否有使用 N 个是/否分类器的替代方法？

Question

TL;DR:有没有比是-否分类器更复杂的分类器？

我首先要说的是，我没有正在从事的具体项目，这更多的是我一直想知道的技术问题。

出于某种原因，我曾开发过一些机器学习应用程序。所有这些项目都旨在将数据分类为 N 个类别之一，并且它们都使用 N 个是/否分类器(如果这就是它们的名称)。每个分类器都会给一段数据一些分数(0 到 1，或 -1 到 1)，该分数对应于该分类器训练的类别的可能性。然后由程序使用这些分数以某种方式确定最佳分类。

我在名义数据和连续数据上都看到了这一点，并且最终分类的实现不同。例如，我曾经写过一个小文档语言标识符，其中分类器接受英语、法语、德语等的训练，得分最高的分类器获胜。这对我来说很有意义。

另一个项目对连续尺度的数据进行分类，大部分是从 0 到 1.2，但有些数据高达 6。我们制作了 6 个左右的分类器，并将它们分配给 bin:0-0.2、0.2-0.4，...以及1.0及以上。一旦所有分类器返回某些数据，我们就会对分数进行二次拟合，并将峰值作为结果。这让我感到不舒服，但我不知道为什么。

似乎应该有一种更好的方法，而不是仅仅轮询一组是/否分类器并尝试根据某种算法做出决定。举一个愚蠢的例子，考虑一个系统来决定图片显示的是洋葱还是蘑菇。 (这实际上是我想到的第一件事。)我认为一个物体越像洋葱，它看起来就越不像蘑菇，从本体论的角度来看，我想要一种分类方法这反射(reflect)了这一点。如果我有两个是-否分类器，没有考虑到洋葱性与蘑菇性相反，那么对于从这两个分类器中都获得高分的图片我该怎么办？有没有办法获得一个单一的蘑菇或洋葱分类器，它以某种方式知道这两类植被之间没有重叠？或者我可以依靠真实数据训练是/否分类器来反射(reflect)这一点，而无需任何特殊干预吗？

Answer 1

有两大分类学派:

1) 判别性 - 在这里，我们尝试从训练示例中学习决策边界。然后根据测试示例位于空间的哪个部分(由决策边界确定)，我们为其分配一个类。最先进的算法是 SVM ，但是如果您的数据无法用线分隔(例如可以用圆分隔)，则需要内核。

针对多类对 SVM 的修改(执行此操作的方法有很多，这里是一种):

令第 j 个(k 个)训练示例 xj 位于(N 个)类别 i 中。那么它的标签yj = i。

a) 特征向量:如果 xj = 属于第 i 类(N 类)的训练样本，则与 xj 对应的特征向量为 phi(xj,yj) = [0 0 ... X .. 0]

• 注意:X 处于第 i 个“位置”。 phi 总共有 D*N 个分量，其中每个示例都有 D 个特征，例如洋葱图片的灰度整数 D = 640*480

• 注意:对于其他类 p，即 y = p，phi(xj, y) 在特征向量中的位置 p 处具有“X”，其他全部为零。

b) 约束:最小化 W^2(如 Vanilla SVM)，使得:

1) 对于除 y1 之外的所有标签 y:W.phi(x1,y1) >= W.phi(x1, y) + 1

和 2) 对于除 y2 之外的所有标签 y:W.phi(x2,y2) >= W.phi(x2, y) + 1

...

和 k) 对于除 yk 之外的所有标签 y:W.phi(xk, yk) >= W.phi(xk, y) + 1

• 注意:这里的直觉是 W.phi(xj, yj) 大于所有其他 W.phi(xj, y1)、W.phi(xj, y2) 等。

2) 生成 - 这里我们假设(这可能是无稽之谈)每个示例都是由该类别的概率分布生成的(例如男性面孔的高斯分布和女性面孔的高斯分布)这在实践中效果很好)并且我们尝试通过计算与该类对应的训练示例的均值、协方差来学习每个分布的参数(均值、协方差)。然后，对于测试示例，我们会看到哪种分布给出最高概率并相应地进行分类。

都不使用 N 个是/否分类器。

判别方法在分类实践中效果更好，但无法对概率答案进行建模。它还需要大量的训练示例来使优化步骤(最小化 W^2)收敛。有一种技术可以将两者结合起来，避免使用内核，称为最大熵判别。

回答您的其他问题:

what do I do about a picture that gets high scores from both? Is there some way to get a single, mushroom-or-onion classifier that somehow knows that there is no overlap between these two classes of vegetation?

这更多的是输入数据的问题，而不是学习算法本身的问题，它只适用于数字矩阵。它可以反射(reflect)领域中的噪音/不确定性(也就是人类可以完美地区分蘑菇和洋葱吗？？)。这可能通过更大/更好的(训练)数据集来解决。或者，在生成情况下，您可能选择了一个糟糕的分布来建模。

大多数人会在分类之前在称为特征选择的阶段对原始图像进行预处理。一种特征选择技术可能是捕捉蔬菜的轮廓，因为蘑菇和洋葱具有不同的形状，图像的其余部分可能是“噪声”。在自然语言处理等其他领域，您可以删除介词，并保留不同名词的计数。但有时性能可能不会提高，因为学习算法可能不会考虑所有特征。这实际上取决于您想要捕捉的内容 - 涉及创造力。特征选择算法也存在。

机器学习的一个很好的资源是 Tony Jebara's courses哥伦比亚大学