线性回归“NA”仅针对最后一个系数进行估计

Question

我在R中运行摘要（lm（...））函数。当我打印系数时，我得到除最后一个变量之外的所有变量的估计值。 最后一个变量我得到“NA”。

我尝试用另一列切换最后一列数据，再次，最后一列中的任何内容得到“NA”，但其他一切都得到了估计。

关于数据的一点点：我有大约5个变量，每行有数据，然后我有12个季节变量，例如，如果月份是1月份，1月份每天都有1，否则为0。 对于2月变量，如果月份是2月份则为1，否则为0，依此类推。 有谁知道在系数估算的最后一列会产生“NA”的是什么？ 所以我第一次运行它时，它是12月虚拟变量的系数。 是因为我的每月虚拟变量？ 谢谢

这是我可重复的例子。

dat<- data.frame(
         one<-c(sample(1000:1239)),
         two<-c(sample(200:439)),
         three<-c(sample(600:839)),
         Jan<-c(rep(1,20), rep(0,220)),
         Feb<-c(rep(0,20),rep(1,20),rep(0,200)),
         Mar<-c(rep(0,40),rep(1,20),rep(0,180)),
         Apr<-c(rep(0,60),rep(1,20),rep(0,160)),
         May<-c(rep(0,80),rep(1,20),rep(0,140)),
         Jun<-c(rep(0,100),rep(1,20),rep(0,120)),
         Jul<-c(rep(0,120),rep(1,20),rep(0,100)),
         Aug<-c(rep(0,140),rep(1,20),rep(0,80)),
         Sep<-c(rep(0,160),rep(1,20),rep(0,60)),
         Oct<-c(rep(0,180),rep(1,20),rep(0,40)),
         Nov<-c(rep(0,200),rep(1,20),rep(0,20)),
         Dec<-c(rep(0,220),rep(1,20)
      )

attach(dat)

summary(lm(one ~ two + three + Jan + Feb + 
          Mar + Apr + May + Jun + Jul + Aug + Sep + Oct + Nov + Dec))

Answer 1

您必须更多地考虑如何定义模型。

这是您的方法（为便于阅读而编辑）：

> set.seed(101)
> dat<-data.frame(one=c(sample(1000:1239)),
                 two=c(sample(200:439)),
                 three=c(sample(600:839)),
                 Jan=c(rep(1,20),rep(0,220)),
                 Feb=c(rep(0,20),rep(1,20),rep(0,200)),
                 Mar=c(rep(0,40),rep(1,20),rep(0,180)),
                 Apr=c(rep(0,60),rep(1,20),rep(0,160)),
                 May=c(rep(0,80),rep(1,20),rep(0,140)),
                 Jun=c(rep(0,100),rep(1,20),rep(0,120)),
                 Jul=c(rep(0,120),rep(1,20),rep(0,100)),
                 Aug=c(rep(0,140),rep(1,20),rep(0,80)),
                 Sep=c(rep(0,160),rep(1,20),rep(0,60)),
                 Oct=c(rep(0,180),rep(1,20),rep(0,40)),
                 Nov=c(rep(0,200),rep(1,20),rep(0,20)),
                 Dec=c(rep(0,220),rep(1,20)))
> summary(lm(one ~ two + three + Jan + Feb + Mar + Apr + 
         May + Jun + Jul + Aug + Sep + Oct + Nov + Dec,
            data=dat))

答案是：

[snip]
Coefficients: (1 not defined because of singularities)

注意这一行 ，它表明R（以及您选择使用的任何其他统计包）无法估计所有参数，因为预测变量并非都是线性独立的。

              Estimate Std. Error t value Pr(>|t|)    
(Intercept) 1149.55556   53.52499  21.477   <2e-16 ***

此处的截距表示所有预测变量为零时的预测值。 在任何特定情况下，截距的解释取决于您如何参数化模型。 您为月定义的虚拟变量并非全部线性独立; lm非常聪明，可以检测到这一点并丢弃一些无法识别的（线性相关的）预测变量。 在这种情况下丢弃哪些特定预测变量的细节是模糊的和技术性的（您可能需要查看lm.fit函数，但您可能不想这样做）。 在这种情况下，R决定扔掉December预测者。 因此，如果我们将所有预测变量（1月至11月的two ， three和所有月假人）设置为零，当two = 0和three = 0并且月份不等于Jan中的任何一个时，我们会得到预期值-Nov - 即12月的预期值。

two           -0.09670    0.06621  -1.460   0.1455    
three          0.02446    0.06666   0.367   0.7141    
Jan          -19.49744   22.17404  -0.879   0.3802    
Feb          -28.22652   22.27438  -1.267   0.2064    
Mar           -6.05246   22.25468  -0.272   0.7859    
Apr           -5.60192   22.41204  -0.250   0.8029    
May          -13.19127   22.34289  -0.590   0.5555    
Jun          -19.69547   22.14274  -0.889   0.3747    
Jul          -44.45511   22.20837  -2.002   0.0465 *  
Aug           -2.08404   22.26202  -0.094   0.9255    
Sep          -10.13351   22.10252  -0.458   0.6470    
Oct          -31.80482   22.33335  -1.424   0.1558    
Nov          -20.35348   22.09953  -0.921   0.3580    
Dec                 NA         NA      NA       NA    
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 

Residual standard error: 69.81 on 226 degrees of freedom
Multiple R-squared: 0.04381,    Adjusted R-squared: -0.01119 
F-statistic: 0.7966 on 13 and 226 DF,  p-value: 0.6635 

现在再做一次，这次设置一个模型公式，使用-1来丢弃截距项（我们重置随机种子以获得再现性）：

> set.seed(101)
> dat1 <- data.frame(one=c(sample(1000:1239)),two=c(sample(200:439)),
      three=c(sample(600:839)),
                    month=factor(rep(month.abb,each=20),levels=month.abb))
> summary(lm(one ~ two + three + month-1, data=dat1))

    Coefficients:
           Estimate Std. Error t value Pr(>|t|)    
two        -0.09670    0.06621  -1.460    0.146    
three       0.02446    0.06666   0.367    0.714    

two和three的估计值与之前相同。

monthJan 1130.05812   52.79625  21.404   <2e-16 ***
monthFeb 1121.32904   55.18864  20.318   <2e-16 ***
monthMar 1143.50310   53.59603  21.336   <2e-16 ***
monthApr 1143.95365   54.99724  20.800   <2e-16 ***
monthMay 1136.36429   53.38218  21.287   <2e-16 ***
monthJun 1129.86010   53.85865  20.978   <2e-16 ***
monthJul 1105.10045   54.94940  20.111   <2e-16 ***
monthAug 1147.47152   54.57201  21.027   <2e-16 ***
monthSep 1139.42205   53.58611  21.263   <2e-16 ***
monthOct 1117.75075   55.35703  20.192   <2e-16 ***
monthNov 1129.20208   53.54934  21.087   <2e-16 ***
monthDec 1149.55556   53.52499  21.477   <2e-16 ***

12月的估计值与上面的截距估计值相同。 其他月份的参数估计值等于（截距+前值）。 p值不同，因为它们的含义已经改变。 以前，它们是对每月与12月份差异的测试; 现在它们是每个月与基线值零的差异的测试。

Answer 2

您获得最后一个变量的NA，因为它线性地依赖于其他11个变量。 R的lm函数（以及所有正确构造的R回归函数）将自动为您排除线性相关变量。 这是在model.matrix函数中处理的。 如果所有其他变量都是0，那么12月将是1.它与排除因子​​的最低项有关，但不完全相同。

可能有更好的方法来做到这一点。

至于从哪里获取12月份的信息？ ......这是'（拦截）'一词。 如果你想要按照你的预期标记所有级别，尝试在公式中添加-1或+0，你会看到12月从迷雾中神奇地出现。