machine-learning - 为什么逻辑回归称为回归？

Question

已关闭。此问题不符合 Stack Overflow guidelines 。目前不接受答案。

---

这个问题似乎与 help center 中定义的范围内的编程无关。 .

已关闭 4 年前。

Improve this question

根据我的理解，线性回归预测可以具有连续值的结果，而逻辑回归预测离散的结果。在我看来，逻辑回归类似于分类问题。那么，为什么称为回归？

还有一个相关问题:What is the difference between linear regression and logistic regression?

Answer 1

线性回归和逻辑回归之间存在严格的联系。

通过线性回归，您需要寻找 k_i 参数:

h = k₀ + Σ k_i ˙ X_i = K^t ˙ X

使用逻辑回归，您有相同的目标，但方程是:

h = g(K^t ˙ X)

其中g是sigmoid function :

g(w) = 1 / (1 + e^-w)

所以:

h = 1 / (1 + e^{-Kt ˙ X})

并且您需要将 K 适合您的数据。

假设一个二元分类问题，输出h是示例x在分类任务中为正匹配的估计概率:

P(Y = 1) = 1 / (1 + e^{-Kt ˙ X})

当概率大于 0.5 时，我们就可以预测“匹配”。

在以下情况下概率大于 0.5:

g(w) > 0.5

这在以下情况下成立:

w = K^t ˙ X ≥ 0

超平面:

K^t ˙ X = 0

是决策边界。

总结:

• 逻辑回归是一种广义线性模型，使用与线性回归相同的基本公式，但它是regressing得出分类结果的概率。

这是一个非常精简的版本。您可以在 these videos 找到简单的解释(机器学习第三周，作者:Andrew Ng)。

您还可以查看http://www.holehouse.org/mlclass/06_Logistic_Regression.html有关类(class)的一些笔记。