python - SciPy 如何计算 pearsonr() 函数中的 p 值？

Question

我搜索了很多，但没有解释 SciPy 如何计算相关系数的 p 值，以及为什么它对于小于 500 的数据集不可靠(由函数页面上的 SciPy 启动)。

Answer 1

scipy.stats.pearsonr使用 t distribution 计算 p 值. (您可以检查 the source code in the file stats.py on github 。)这绝对应该在文档字符串中提及。

这是一个例子。首先导入pearsonr和scipy对t分布的实现:

In [334]: from scipy.stats import pearsonr, t as tdist

为此示例定义 x 和 y:

In [335]: x = np.array([0, 1, 2, 3, 5, 8, 13])

In [336]: y = np.array([1.2, 1.4, 1.6, 1.7, 2.0, 4.1, 6.6])

计算此数据的 r 和 p:

In [337]: r, p = pearsonr(x, y)

In [338]: r
Out[338]: 0.9739566302403544

In [339]: p
Out[339]: 0.0002073053505382502

现在再次计算 p，首先计算 t 统计量，然后找到该 t 值的两倍生存函数:

In [340]: df = len(x) - 2

In [341]: t = r * np.sqrt(df/(1 - r**2))

In [342]: 2*tdist.sf(t, df)  # This is the p value.
Out[342]: 0.0002073053505382502

我们得到了与预期相同的 p 值。

我不知道“p 值并不完全可靠，但对于大于 500 左右的数据集可能是合理的”这一说法的出处。如果有人知道可引用的引用文献，则应将其添加到 pearsonr 文档字符串中。