r - 为Ax = b并行求解Solve()吗？

Question

与STATS.se交叉发布，因为此问题可能跨越两个STATs.se/SO
https://stats.stackexchange.com/questions/17712/parallelize-solve-for-ax-b



我从矩阵包中使用spMatrix函数创建了一些非常大的稀疏矩阵。

使用resolve（）函数可解决我的Ax = b问题，但是需要很长时间。几天。

我注意到http://cran.r-project.org/web/packages/RScaLAPACK/RScaLAPACK.pdf
似乎具有可以并行化求解功能的功能，但是，可能需要花费数周的时间才能在此特定服务器上安装新软件包。

服务器已经安装了snow软件包。

所以


有没有一种方法可以使用雪来并行化此操作？
如果没有，还有其他方法可以加快此类操作的速度吗？
还有其他软件包，例如RScaLAPACK？我在RScaLAPACK上的搜索似乎表明人们对此有很多疑问。


谢谢。

[编辑]-其他详细信息

矩阵约为370,000 x 370,000。
我正在使用它来解决alpha中心性http://en.wikipedia.org/wiki/Alpha_centrality。我最初是在igraph包中使用alpha中心性函数，但是它将使R崩溃。

更多细节


这是在一台具有12个内核和96个内存的机器上（我相信）
它是沿着论文引文关系的有向图。
计算条件数和密度需要一段时间。将在可用时发布。
将在stat.SE上交叉发布，并将添加链接回到此处

Answer 1

[更新1：对于刚刚适应的用户：最初的问题涉及并行计算以解决回归问题；鉴于根本问题与alpha中心性有关，因此某些问题（例如装袋和正则回归）可能无法立即应用，尽管这导致了进一步的统计讨论。

从基础设施到统计，这里有很多问题需要解决。

基础设施
[已更新-另请参见下面的更新2。]

关于并行线性求解器，可以用支持多线程计算的库（例如ATLAS，Goto BLAS，Intel的MKL或AMD的ACML）替换R的BLAS / LAPACK库。我个人使用AMD版本。 ATLAS令人恼火，因为一个人在编译时而不是在运行时确定内核的数量。 MKL是商业性的。 Goto不再得到很好的支持，但通常是最快的，但仅有一点点。它已获得BSD许可。您还可以查看Revolution Analytics的R，我认为它包括Intel库。

因此，您可以通过简单的后端更改立即开始使用所有内核。这可以使您的速度提高12倍（内核数量的b / c），或者可能更高（实现更好的b / c）。如果这样可以将时间缩短到可接受的范围内，那么您就完成了。 :)但是，更改统计方法可能会更好。

您没有提到可用的RAM数量（或每个内核或机器的RAM分配），但是稀疏求解器在管理RAM访问方面应该非常聪明，不要试图一次消耗太多数据。但是，如果它在一台机器上并且天真地完成工作，那么您可能会遇到很多交换。在这种情况下，请查看诸如biglm，bigmemory，ff之类的软件包。前者解决在有限内存中求解线性方程式（或GLM）的问题，后两个解决共享内存（即内存映射和基于文件的存储）的问题，这对于非常大的对象非常方便。在at the CRAN Task View for HPC中可以找到更多软件包（例如speedglm等）。

半统计半计算问题是要解决矩阵的可视化问题。尝试按每行和每列的支持进行排序（如果图形是无向的，则相同；否则，执行另一项，或者尝试使用诸如反向Cuthill-McKee的重新排序方法），然后使用image()绘制矩阵。有趣的是，看看它是如何成形的，并且会影响人们可以尝试的计算和统计方法。

另一个建议：您可以迁移到Amazon的EC2吗？它价格便宜，您可以管理自己的安装。如果没有其他问题，您可以对所需的东西进行原型制作，并在测试了加速后，将其内部迁移。 JD Long有一个名为segue的程序包，显然可以简化在Amazon Elastic MapReduce基础结构上分配作业的工作。如果您具有96GB的RAM和12个内核，则无需迁移到EC2-分发它可以加快速度，但这不是问题。仅在这台机器上获得100％的利用率将是一个很好的改进。

统计

接下来是多个简单的统计问题：


装袋您可以考虑对数据的子集进行采样以适合模型，然后装袋模型。这可以使您加速。这样一来，您就可以将计算分布在尽可能多的计算机和内核上。您可以将SNOW与foreach一起使用。
调节glmnet支持稀疏矩阵，并且速度非常快。您应该进行测试。请注意条件不佳的矩阵和非常小的lambda值。
排名：您的矩阵稀疏：它们的等级是否完整？如果不是，那可能就是您面临的问题的一部分。当矩阵是奇异的或接近奇异时（检查估计的条件数，或至少看一下第一个和第N个特征值的比较-如果下降很大，则很麻烦-您可能会检查eval1与ev2。 ..，ev10，...）。同样，如果矩阵几乎是奇异的，则需要回到类似glmnet的位置，以缩小变量是共线的或具有非常低的支持度。
绑定可以减少矩阵的带宽吗？如果您可以阻止对角线化，那就太好了，但是您可能会有集团和多个集团的成员。如果可以修剪关系最差的成员，则可以估计它们的alpha中心为同一团体中的最小值的上限。 R中有一些软件包适合这种情况（请查看Reverse Cuthill-McKee；或者只是看一下如何将其转换为矩形，通常与集团或较小的团体有关）。如果您有多个断开连接的组件，则一定要将数据分离到单独的矩阵中。
替代方案您是否已加入Alpha Centrality？可能存在其他度量具有单调相关性（即具有较高的秩相关性），且具有相同的值，可以更便宜地计算出或至少非常有效地实现相同的值。如果这些方法行得通，那么您的分析将花费更少的精力。我有一些想法，但是SO并不是真正进行讨论的地方。


为了获得更多的统计数据，应在stats.stackexchange.com, Cross-Validated上进行适当的问答。



更新2：我回答的速度太快了，从长远的角度来看并没有解决这个问题。如果您打算长期对此类系统进行研究，则应考虑其他更适合您的数据和计算基础架构类型的求解器。求解器和预处理器的选项的Here is a very nice directory。似乎其中不包含IBM's "Watson" solver suite。尽管安装软件可能需要数周的时间，但是如果您有很好的HPC管理员，则很有可能已经安装了其中一个软件包。

另外，请记住，可以将R软件包安装到用户目录-您无需在常规目录中安装软件包。如果您需要以用户以外的身份执行某些操作，则还可以将程序包下载到临时空间或临时空间（如果您仅在1个R实例中运行，但使用多个内核，请签出tempdir）。