machine-learning - 用于回归和分类的 K-Nearest 算法

Question

k 最近分类器和 k 最近回归之间的确切区别是什么？

回归将应用哪种类型的数据？你知道什么好的文学作品吗？

Answer 1

这并不是真正与 knn 相关的问题，只是这个模型可以类似地应用于两个不同的任务:

• 回归http://en.wikipedia.org/wiki/Regression_analysis
• 分类 http://en.wikipedia.org/wiki/Statistical_classification

简而言之:

• 回归 - 您正在尝试对函数 f 进行建模:X -> R^n(n 维连续值)
• 分类 - 您正在尝试对函数 f 进行建模:X -> {c1,c2,...,ck}(有限值集)

一些最简单的例子可能是:

• 您想要预测明天的准确温度 = 回归
• 您想预测明天是热门还是 cols = 分类

这些概念紧密相连，因为人们或多或少可以将每个问题转化为另一个问题:

• 回归 -> 分类:将类别表示为值，训练模型，使用阈值或 softmax 转换回类别(如果直接使用分类模型，显然会过于复杂)
• 分类 -> 回归:对值使用一些离散化，训练模型，使用一些插值将其转换回连续值(显然这会丢失一些信息)

关于决策/回归树的一些很好的解释: http://www.simafore.com/blog/bid/62482/2-main-differences-between-classification-and-regression-trees