python - 为什么参数的数量与分类变量的数量不同？

Question

我使用Python来处理线性回归问题。我使用分类变量来表示数据，但线性回归的结果并没有给出每个分类变量的系数。

函数是

import numpy as np
import pandas as pd
from statsmodels.formula.api import ols

X = pd.DataFrame(data=[[1,2,3],[2,3,1],[3,2,3],[2,3,1],[2,1,2]],columns=['X1','X2','X3'])
y = pd.DataFrame(data=[1,2,3,4,5], columns=['Y'])

mod = ols('np.log(y+1) ~ C(X1)+C(X2)+C(X3)-1', data=pd.concat([X, y], axis=1))
results = mod.fit()
print(results.summary())

我使用-1来删除拦截。 X1、X2、X3 是分类变量，每个变量都有三个值:1、2 和 3。

结果是

                 coef    std err          t      P>|t|      [0.025      0.975]
------------------------------------------------------------------------------
C(X1)[1]      -0.1386      0.260     -0.532      0.689      -3.448       3.171
C(X1)[2]       1.0486      0.147      7.111      0.089      -0.825       2.922
C(X1)[3]       0.5545      0.260      2.129      0.280      -2.755       3.864
C(X2)[T.2]     0.4159      0.102      4.071      0.153      -0.882       1.714
C(X2)[T.3]     0.3054      0.209      1.465      0.381      -2.344       2.955
C(X3)[T.2]     0.7432      0.255      2.910      0.211      -2.502       3.988
C(X3)[T.3]     0.4159      0.102      4.071      0.153      -0.882       1.714

但是 x1,x2,x3 每个都有 3 个值，所以我想我应该得到 3*3=9 行结果。但我只得到 7。C(X2)[T.1] 和 C(X3)[T.1] 丢失了。如果我通过将函数更改为添加拦截

mod = ols('np.log(y+1) ~ C(X1)+C(X2)+C(X3)', data=pd.concat([X, y], axis=1))

，结果如下:

Intercept      0.6439      0.108      5.984      0.105      -0.723       2.011
C(X1)[T.2]     0.6193      0.116      5.328      0.118      -0.858       2.096
C(X1)[T.3]     0.6931      0.511      1.357      0.404      -5.798       7.184
C(X2)[T.2]     0.0246      0.143      0.172      0.892      -1.793       1.842
C(X2)[T.3]     0.0908      0.212      0.429      0.742      -2.598       2.780
C(X3)[T.2]     0.5285      0.245      2.161      0.276      -2.579       3.637
C(X3)[T.3]     0.0246      0.143      0.172      0.892      -1.793       1.842

结果仍然只有 7 个参数。我想要获得 9 个参数，其中包括 C(X1)[T.1]、C(X2)[T.1] 和 C(X3)[T.1]。我知道截距代表X1=0，X2=0和X3=0的情况，但是我可以得到它们每个的截距吗？

Answer 1

它们被隐式编码为“基本”类别:如果C(X2)[T.2]是0(当且仅当X2! =2) 且 C(X2)[T.3] 为 0 (X2!=3) ，那么剩下的唯一可能就是 X2==1。 X3也是如此。 X1 具有所有三个类别的唯一原因是因为您消除了截距，通常截距对应于 X1=1、X2=1、X3=1 的情况。一般来说，当使用 statmodels 时，如果包含截距，并且每个分类变量可以有 N 个可能的类别，那么您最终将在新编码中得到 (N-1)*(分类变量的数量)个参数。

如果您想知道 X2=1 时的预测，则对应于 C(X2)[T.2]=0、C(X2)[T.3]=0。