python - numpy.linalg.lstsq 和 scipy.linalg.lstsq 有什么区别？

Question

lstsq 尝试解决 Ax=b 最小化 |b - Ax|。 scipy 和 numpy 都提供了一个具有非常相似接口(interface)的 linalg.lstsq 函数。文档没有提到使用哪种算法，scipy.linalg.lstsq 也没有。也不为numpy.linalg.lstsq ，但它似乎做的几乎一样。

scipy.linalg.lstsq 的实现似乎有所不同和 numpy.linalg.lstsq .两者似乎都使用 LAPACK，两种算法似乎都使用 SVD。

区别在哪里？我应该使用哪一个？

注意:不要将 linalg.lstsq 与同样可以解决非线性优化问题的 scipy.optimize.leastsq 混淆。

Answer 1

如果我正确阅读了源代码(Numpy 1.8.2，Scipy 0.14.1), numpy.linalg.lstsq() 使用 LAPACK 例程 xGELSD 和 scipy.linalg.lstsq() 使用 xGELSS.

LAPACK Manual Sec. 2.4状态

The subroutine xGELSD is significantly faster than its older counterpart xGELSS, especially for large problems, but may require somewhat more workspace depending on the matrix dimensions.

这意味着 Numpy 速度更快但使用更多内存。

2017 年 8 月更新:

Scipy 现在默认使用 xGELSD https://docs.scipy.org/doc/scipy/reference/generated/scipy.linalg.lstsq.html