machine-learning - ANN、SVM 和 KNN 分类器有什么区别？

Question

我正在做遥感图像分类。我使用的是面向对象的方法:首先将图像分割到不同的区域，然后从区域中提取特征，例如颜色、形状和纹理。一个区域的所有特征的数量可能是 30，通常总共有 2000 个区域，我将选择 5 个类，每个类 15 个样本。
总之:

样本数据 1530

测试数据197530

如何选择合适的分类器？如果有 3 个分类器(ANN、SVM 和 KNN)，我应该选择哪个分类更好？

Answer 1

KNN 是参数化和实现的最基本的机器学习算法，但正如 @etov 所暗示的，由于训练数据量小，SVM 可能会优于 SVM。已经观察到人工神经网络也受到训练数据不足的限制。但是，KNN 对您的数据做出的假设数量最少，除了准确的训练数据应该形成相对离散的集群。众所周知，ANN 和 SVM 难以参数化，特别是如果您希望使用多个数据集重复该过程并依赖某些假设，例如您的数据是线性可分 (SVM)。

我还推荐随机森林算法，因为它易于实现并且对训练数据大小相对不敏感，但我建议不要使用非常小的训练数据大小。

scikit-learn 模块包含这些算法，能够处理大量的训练数据，因此您可以增加训练数据样本的数量。正如@etov 所建议的那样，最好的确定方法是自己调查它们