machine-learning - 为什么线性回归称为 'linear' ？

Question

关闭。这个问题不满足Stack Overflow guidelines .它目前不接受答案。












想改善这个问题吗？更新问题，使其成为 on-topic对于堆栈溢出。

2年前关闭。




Improve this question




只是一个愚蠢的疑问，为什么它被称为“线性”。是因为回归中使用的多项式函数的次数，还是因为我们有 1 个输出要预测，或者其他一些原因。我是 ML 的初学者。用谷歌搜索找不到答案。

Answer 1

线性回归之所以称为线性，是因为您将输出变量(我们称之为 f(x))建模为 线性组合输入和权重(让我们分别称它们为 x 和 w)。即

f(x) = < w, x > + b = SUM w_i x_i + b

从严格的数学角度来看，这些模型应该被称为 仿射 模型，由于存在偏差( b 项，在线性变换中不应该出现)，但由于历史原因我们使用名称 线性 反而。

您可以在数据的非线性变换之上考虑线性回归，但这只是一个语义技巧，因为有效地这是 的线性回归。变形 数据，而不是数据本身(就数据而言，拟合回归不是线性的)。从数学的角度来看，保持线性很重要。无论您优化什么，就 w 而言.所以如果你考虑

f(x) = <w, g(x)> + b 

您仍然可以称其为线性回归(因为它与 w 是线性的)，但它不再是应用于 x 的线性回归。 ，但适用于 g(x) .