python Ridge回归解释结果

Question

我将 python 与 sklearn 和 statsmodels 结合使用来创建回归模型。这是我第一次使用 Ridge 回归。但是，我不明白结果是什么意思。例如。

打印时

print reg.intercept_
print reg.coef_

我得到的输出是

print  reg.intercept_

[[  0.00000000e+00]
 [ -5.27579034e-03]
 [  3.35202990e-03]
 [ -1.54862324e-02]
 [ -3.74392708e-02]

print reg.coef_   

[ 1.00000000e+00   4.11548523e-02   6.98464464e-01   3.88878487e-01
       5.20562949e+01 ]

每当我进行正常线性回归时，我只会得到 1 个截距，但在脊模型中我会得到 5 个截距。谁能详细说明为什么以及这意味着什么？

Answer 1

如果您查看 Linear Regression 的文档，我相信您有多个目标在属性 intercept_ 下，它指定它独立于模型。如果您查看 Ridge Regression, 的相同文档它在属性部分指定 intercept_ : float |数组，形状 = (n_targets,)。

您可以通过在我修改的以下代码中更改由变量 n_targets 控制的目标数量来验证这一点:

from sklearn.linear_model import Ridge
import numpy as np

n_targets=2
n_samples, n_features = 10, 5

np.random.seed(0)
y = np.random.randn(n_samples,n_targets)
X = np.random.randn(n_samples, n_features)
clf = Ridge(alpha=1.0)
clf.fit(X, y) 

print( clf.intercept_)

如果您设置 n_targets=1，您将获得 0.89586534，如果您设置 n_targets=2，您将获得 [0.7101951 0.36420037]。我在我的类(class)中介绍岭回归 Data Analysis with Python ./