statistics - logit 模型中的尺度参数

Question

在仔细阅读 logit 模型说明时，我遇到了一种叫做“尺度参数”的可能性。有人可以解释一下这是什么以及它的用途。不使用它会发生什么。另外，它也用于概率模型吗？

干杯

Answer 1

这是 5 个月前提出的问题，但无论如何我都会回答。

OP，你可能还记得 linear regression 中残差平方和的概念.由此，我们可以通过将残差 SS 除以残差自由度来获得模型中误差的标准差的统计量。误差的标准偏差也称为尺度参数:它是 sigma在 N(mu, sigma)线性回归中的误差分布。

在逻辑回归中，与残差 SS 类似的统计量是残差偏差:在考虑预测变量的影响后模型中无法解释的变化量。现在理论上，逻辑回归没有尺度参数:注意没有等效于 sigma在二项分布中。 (回想一下，逻辑回归假设数据来自二项式分布，其参数 p 是预测变量的函数。)然而，在实践中，我们经常观察到数据中的变异性超出了可以解释的范围由模型。为此调整模型的一种方法是计算类似于线性回归中的“尺度参数”:残差偏差除以残差 df。

由于过度分散是响应分布的一个属性，因此它既适用于概率回归也适用于逻辑回归。

可以证明，给定某些假设，正确指定的逻辑/概率模型中的残差偏差应近似等于残差 df:即，尺度参数应约为 1。尺度参数 > 1 的模型是据说是过度分散的；您可以通过将系数等的所有 t 统计量除以比例参数来实现这一点，就像在线性回归中一样。

请注意，这并不总是有用的规则。它主要取决于每个二项式观察的试验次数很大的假设，这对于实际数据通常是违反的。例如，如果您有一个二元响应(每个观察值都是 0 或 1)，它就会完全崩溃。