python - SKlearn 使用什么算法来最小化 MSE？

Question

我正在使用 Scikit-learn 库进行线性回归。一切都简单明了。只需 6 行代码，我就可以完成这项工作。不过，我想知道到底发生了什么。

由于我是机器学习的初学者，也许我的问题是错误的，但我想知道 Scikit-learn 使用什么算法来最小化其线性回归方法中的均方误差。

Answer 1

来自documentation :

From the implementation point of view, this is just plain Ordinary Least Squares (scipy.linalg.lstsq) wrapped as a predictor object.

你也可以看一下源代码here ，它在哪里调用 linalg.lstsq .

<小时/>

关于背后发生的事情的额外说明:

如果线性公式为 a * x + b，您可以使用以下命令访问系数 (a) 和偏差 (b):训练模型的属性 coef_ 和 intercept_。

一个从 3 个点生成恒等对角线以显示 coef_ 和 intercept_ 属性的玩具示例:

from sklearn.linear_model import LinearRegression

X = np.array([[1], [2], [3]])
y = np.array([1, 2, 3])

lg = LinearRegression()
lg.fit(X, y)
lg.coef_ # 1
lg.intercept_ # ~ 0