python - 了解统计模型线性回归

Question

我正在尝试拟合在 statsmodels 库中实现的线性回归模型。

我对 fit() 方法有疑问。假设我有大小为 15 的数据样本，我将其分为 3 部分并拟合模型。对每个 fit() 的调用是否会正确拟合模型，或者是否会覆盖以前的值。

import numpy as np
import statsmodels.api as sm

# First call
X = [377, 295, 457, 495, 9] # independent variable
y = [23, 79, 16, 41, 40]    # dependent variable
X = sm.add_constant(X)
ols = sm.OLS(y,X).fit()
#print(ols.summary())

# Second call
X = [243, 493, 106, 227, 334]
y = [3, 5, 1, 62, 92]
X = sm.add_constant(X)
ols = sm.OLS(y,X).fit()
#print(ols.summary())

# Third call
X = [412, 332, 429, 96, 336] 
y = [30, 1, 99, 4, 33]
X = sm.add_constant(X)
ols = sm.OLS(y,X).fit()
#print(ols.summary())

scores = [9, 219, 200, 134, 499]
scores = sm.add_constant(scores)
print(ols.predict(scores))

Answer 1

每次调用 sm.OLS(y,X) 都会创建一个新的模型实例，每次调用 .fit() 都会创建一个新的结果实例，并引用底层模型。实例彼此独立，也就是说，除了可能的底层数据之外，它们不共享任何属性。

但是，在您的示例中，您为每个回归结果分配了相同的名称 ols，因此名称 ols 仅指最后一个实例。

更多详细信息:

如果不需要复制，创建像 sm.OLS(y,X) 这样的模型不会复制数据 y 和 X。具体来说，如果 y 和 X 是 numpy ndarray，则不需要复制。 (从技术上讲，转换和复制行为取决于 np.asarray(y) 和 np.asarray(X))

重复调用 fit 方法每次都会创建一个新的结果实例，但它们保存对同一模型实例的引用。例如，我们可以使用不同的 cov_type 选项调用 fit，这将使用不同的假设创建参数估计的协方差。

model = sm.OLS(y,X)
ols_nonrobust = model.fit()
ols_hc = model.fit(cov_type="HC3")

在大多数模型中，拟合中的所有相关信息都附加到结果实例中。在上面的情况下，我们可以同时查看两个结果实例，例如参数标准误差比较

ols_nonrobust.bse
ols_hc.bse

statsmodels 在 RLM 和一些时间序列模型中仍然存在一些情况，其中某些拟合选项可能会更改底层模型。在这种情况下，只有 fit 创建的最后一个结果实例才会具有正确的模型属性。如果我们适合只需要最后一个实例的循环，这些情况就很好，但如果同时使用多个结果实例并且它们引用相同的底层模型实例，则可能会显示不正确的结果。 http://www.statsmodels.org/devel/pitfalls.html#repeated-calls-to-fit-with-different-parameters