r - 线性回归 "NA"仅估计最后一个系数

Question

我正在R中运行summary(lm(...))函数。当我打印系数时，我得到了除最后一个变量之外的所有变量的估计值。我得到的最后一个变量是“NA”。

我尝试将最后一列数据与另一列交换，最后一列中的任何内容都得到“NA”，但其他所有内容都得到了估计。

关于数据的一些信息:我有大约 5 个变量，每行都有数据，然后我有 12 个季节性变量，例如，如果月份是一月，则 1 代表一月的每一天，否则为 0。对于二月变量，如果月份是二月，则为 1，否则为 0，依此类推。有谁知道什么会在系数估计的最后一列中产生“NA”？所以我第一次运行它时，它是 12 月虚拟变量的系数。是因为我每月的虚拟变量吗？谢谢

这是我的可重现的示例。

dat<- data.frame(
         one<-c(sample(1000:1239)),
         two<-c(sample(200:439)),
         three<-c(sample(600:839)),
         Jan<-c(rep(1,20), rep(0,220)),
         Feb<-c(rep(0,20),rep(1,20),rep(0,200)),
         Mar<-c(rep(0,40),rep(1,20),rep(0,180)),
         Apr<-c(rep(0,60),rep(1,20),rep(0,160)),
         May<-c(rep(0,80),rep(1,20),rep(0,140)),
         Jun<-c(rep(0,100),rep(1,20),rep(0,120)),
         Jul<-c(rep(0,120),rep(1,20),rep(0,100)),
         Aug<-c(rep(0,140),rep(1,20),rep(0,80)),
         Sep<-c(rep(0,160),rep(1,20),rep(0,60)),
         Oct<-c(rep(0,180),rep(1,20),rep(0,40)),
         Nov<-c(rep(0,200),rep(1,20),rep(0,20)),
         Dec<-c(rep(0,220),rep(1,20)
      )

attach(dat)

summary(lm(one ~ two + three + Jan + Feb + 
          Mar + Apr + May + Jun + Jul + Aug + Sep + Oct + Nov + Dec))

Answer 1

您必须更多地考虑如何定义您的模型。

这是您的方法(为了便于阅读而进行了编辑):

> set.seed(101)
> dat<-data.frame(one=c(sample(1000:1239)),
                 two=c(sample(200:439)),
                 three=c(sample(600:839)),
                 Jan=c(rep(1,20),rep(0,220)),
                 Feb=c(rep(0,20),rep(1,20),rep(0,200)),
                 Mar=c(rep(0,40),rep(1,20),rep(0,180)),
                 Apr=c(rep(0,60),rep(1,20),rep(0,160)),
                 May=c(rep(0,80),rep(1,20),rep(0,140)),
                 Jun=c(rep(0,100),rep(1,20),rep(0,120)),
                 Jul=c(rep(0,120),rep(1,20),rep(0,100)),
                 Aug=c(rep(0,140),rep(1,20),rep(0,80)),
                 Sep=c(rep(0,160),rep(1,20),rep(0,60)),
                 Oct=c(rep(0,180),rep(1,20),rep(0,40)),
                 Nov=c(rep(0,200),rep(1,20),rep(0,20)),
                 Dec=c(rep(0,220),rep(1,20)))
> summary(lm(one ~ two + three + Jan + Feb + Mar + Apr + 
         May + Jun + Jul + Aug + Sep + Oct + Nov + Dec,
            data=dat))

答案:

[snip]
Coefficients: (1 not defined because of singularities)

注意这一行，它表明 R(以及您选择使用的任何其他统计包)无法估计所有参数，因为预测变量并不都是线性独立的。

              Estimate Std. Error t value Pr(>|t|)    
(Intercept) 1149.55556   53.52499  21.477   <2e-16 ***

这里的截距表示所有预测变量为零时的预测值。在任何特定情况下，截距的解释取决于您如何参数化模型。您为月份定义的虚拟变量并不都是线性独立的； lm足够聪明，可以检测到这一点并删除一些无法识别的(线性相关的)预测变量。在这种情况下，哪些特定预测变量被丢弃的细节是模糊且技术性的(您可能必须查看 lm.fit 函数的内部，但您可能不想这样做)。在这种情况下，R 决定丢弃 December预测器。因此，如果我们将所有预测变量( two 、 three 以及所有月份虚拟变量 1-11 月)设置为零，则当 two 时，我们最终会得到预期值。 =0 和 three =0 并且该月份不等于 Jan-11 月中的任何月份——即 12 月的预期值。

two           -0.09670    0.06621  -1.460   0.1455    
three          0.02446    0.06666   0.367   0.7141    
Jan          -19.49744   22.17404  -0.879   0.3802    
Feb          -28.22652   22.27438  -1.267   0.2064    
Mar           -6.05246   22.25468  -0.272   0.7859    
Apr           -5.60192   22.41204  -0.250   0.8029    
May          -13.19127   22.34289  -0.590   0.5555    
Jun          -19.69547   22.14274  -0.889   0.3747    
Jul          -44.45511   22.20837  -2.002   0.0465 *  
Aug           -2.08404   22.26202  -0.094   0.9255    
Sep          -10.13351   22.10252  -0.458   0.6470    
Oct          -31.80482   22.33335  -1.424   0.1558    
Nov          -20.35348   22.09953  -0.921   0.3580    
Dec                 NA         NA      NA       NA    
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 

Residual standard error: 69.81 on 226 degrees of freedom
Multiple R-squared: 0.04381,    Adjusted R-squared: -0.01119 
F-statistic: 0.7966 on 13 and 226 DF,  p-value: 0.6635 

现在再做一次，这次设置一个使用 -1 的模型公式丢弃截距项(我们重置随机种子以实现可重复性):

> set.seed(101)
> dat1 <- data.frame(one=c(sample(1000:1239)),two=c(sample(200:439)),
      three=c(sample(600:839)),
                    month=factor(rep(month.abb,each=20),levels=month.abb))
> summary(lm(one ~ two + three + month-1, data=dat1))

    Coefficients:
           Estimate Std. Error t value Pr(>|t|)    
two        -0.09670    0.06621  -1.460    0.146    
three       0.02446    0.06666   0.367    0.714    

two 的估计值和three和以前一样。

monthJan 1130.05812   52.79625  21.404   <2e-16 ***
monthFeb 1121.32904   55.18864  20.318   <2e-16 ***
monthMar 1143.50310   53.59603  21.336   <2e-16 ***
monthApr 1143.95365   54.99724  20.800   <2e-16 ***
monthMay 1136.36429   53.38218  21.287   <2e-16 ***
monthJun 1129.86010   53.85865  20.978   <2e-16 ***
monthJul 1105.10045   54.94940  20.111   <2e-16 ***
monthAug 1147.47152   54.57201  21.027   <2e-16 ***
monthSep 1139.42205   53.58611  21.263   <2e-16 ***
monthOct 1117.75075   55.35703  20.192   <2e-16 ***
monthNov 1129.20208   53.54934  21.087   <2e-16 ***
monthDec 1149.55556   53.52499  21.477   <2e-16 ***

12 月的估计与上面的截距估计相同。其他月份的参数估计值等于(截距+前一个值)。 p 值不同，因为它们的含义已更改。此前，它们是测试 12 月份的每个月的差异；现在它们是测试每个月与零基线值的差异。