machine-learning - 回归与分类的准确一般描述

Question

所以我遇到了以下问题:我意识到(在撰写硕士论文时)我仍然不确定/对一些机器学习原理有模糊的描述。

例如，我依稀记得在某个时刻我听到过以下描述:

The output (label) of a classification task is discrete and finite while the output (label) of a regression task is continuous and can be infinite

在此描述中，对于回归，我不确定的一个词是无限。

例如，如果您假设(无论出于何种原因)您有几乎像正弦波一样分布的 2D 数据点(带有一些噪声)，并且您使用 polyfit 来拟合 k 次多项式(参见图 here 这里 k = 8)。现在你有一些特定范围内的数据，例如，这里 x 方向上的可用点的范围是 [0,12]，它用于拟合多项式。

但是，当您知道多项式的一般形状时，您是否能够快速获得值 x = 1M(或任意大的数)的 y 结果？这不是无限标签的意思吗？

也许我只是错误地记住了几年前学到的东西；)。

最诚挚的问候

Answer 1

首先，这个问题更适合 StackExchange 上更倾向于理论的站点，例如 Stats Stackexchange Math Stackexchange ，或 Data Science Stackexchange ，其中conveniently also provide answers to your question 。
但也不完全是。无论如何，您的问题似乎在于输入和输出之间的区别。任务类型(即分类或回归)仅基于模型的输出，但与输入无关。

您可以拥有大量“连续输入变量”(甚至是不同变量的混合)，但如果它具有不同数量的输出值，则仍然将其称为分类任务。

此外，无限只是指这些值不受限制，即您无法轻松地将回归任务限制在特定范围内。如果您突然输入一个完全超出训练值范围的值(如您的示例)，您可能会得到一个“无限”y 值，因为您的网络只会在此特定范围内进行训练；多项式拟合也会出现这个问题，如下例所示:

红线可能是你的网络的学习函数，所以如果你突然远远超出已知值，你可能会得到一些极值(除非你训练得很好)。
与此相反，分类网络仍然会预测任何给定的类别。我喜欢把它想象成 Voronoi diagram :即使你的点与之前的任何点相距任意远，它仍然属于某个类别。