r - 为Ax = b并行求解Solve()吗?

标签 r parallel-processing sparse-matrix

与STATS.se交叉发布,因为此问题可能跨越两个STATs.se/SO
https://stats.stackexchange.com/questions/17712/parallelize-solve-for-ax-b



我从矩阵包中使用spMatrix函数创建了一些非常大的稀疏矩阵。

使用resolve()函数可解决我的Ax = b问题,但是需要很长时间。几天。

我注意到http://cran.r-project.org/web/packages/RScaLAPACK/RScaLAPACK.pdf
似乎具有可以并行化求解功能的功能,但是,可能需要花费数周的时间才能在此特定服务器上安装新软件包。

服务器已经安装了snow软件包。

所以


有没有一种方法可以使用雪来并行化此操作?
如果没有,还有其他方法可以加快此类操作的速度吗?
还有其他软件包,例如RScaLAPACK?我在RScaLAPACK上的搜索似乎表明人们对此有很多疑问。


谢谢。

[编辑]-其他详细信息

矩阵约为370,000 x 370,000。
我正在使用它来解决alpha中心性http://en.wikipedia.org/wiki/Alpha_centrality。我最初是在igraph包中使用alpha中心性函数,但是它将使R崩溃。

更多细节


这是在一台具有12个内核和96个内存的机器上(我相信)
它是沿着论文引文关系的有向图。
计算条件数和密度需要一段时间。将在可用时发布。
将在stat.SE上交叉发布,并将添加链接回到此处

最佳答案

[更新1:对于刚刚适应的用户:最初的问题涉及并行计算以解决回归问题;鉴于根本问题与alpha中心性有关,因此某些问题(例如装袋和正则回归)可能无法立即应用,尽管这导致了进一步的统计讨论。

从基础设施到统计,这里有很多问题需要解决。

基础设施
[已更新-另请参见下面的更新2。]

关于并行线性求解器,可以用支持多线程计算的库(例如ATLAS,Goto BLAS,Intel的MKL或AMD的ACML)替换R的BLAS / LAPACK库。我个人使用AMD版本。 ATLAS令人恼火,因为一个人在编译时而不是在运行时确定内核的数量。 MKL是商业性的。 Goto不再得到很好的支持,但通常是最快的,但仅有一点点。它已获得BSD许可。您还可以查看Revolution Analytics的R,我认为它包括Intel库。

因此,您可以通过简单的后端更改立即开始使用所有内核。这可以使您的速度提高12倍(内核数量的b / c),或者可能更高(实现更好的b / c)。如果这样可以将时间缩短到可接受的范围内,那么您就完成了。 :)但是,更改统计方法可能会更好。

您没有提到可用的RAM数量(或每个内核或机器的RAM分配),但是稀疏求解器在管理RAM访问方面应该非常聪明,不要试图一次消耗太多数据。但是,如果它在一台机器上并且天真地完成工作,那么您可能会遇到很多交换。在这种情况下,请查看诸如biglmbigmemoryff之类的软件包。前者解决在有限内存中求解线性方程式(或GLM)的问题,后两个解决共享内存(即内存映射和基于文件的存储)的问题,这对于非常大的对象非常方便。在at the CRAN Task View for HPC中可以找到更多软件包(例如speedglm等)。

半统计半计算问题是要解决矩阵的可视化问题。尝试按每行和每列的支持进行排序(如果图形是无向的,则相同;否则,执行另一项,或者尝试使用诸如反向Cuthill-McKee的重新排序方法),然后使用image()绘制矩阵。有趣的是,看看它是如何成形的,并且会影响人们可以尝试的计算和统计方法。

另一个建议:您可以迁移到Amazon的EC2吗?它价格便宜,您可以管理自己的安装。如果没有其他问题,您可以对所需的东西进行原型制作,并在测试了加速后,将其内部迁移。 JD Long有一个名为segue的程序包,显然可以简化在Amazon Elastic MapReduce基础结构上分配作业的工作。如果您具有96GB的RAM和12个内核,则无需迁移到EC2-分发它可以加快速度,但这不是问题。仅在这台机器上获得100%的利用率将是一个很好的改进。

统计

接下来是多个简单的统计问题:


装袋您可以考虑对数据的子集进行采样以适合模型,然后装袋模型。这可以使您加速。这样一来,您就可以将计算分布在尽可能多的计算机和内核上。您可以将SNOW与foreach一起使用。
调节glmnet支持稀疏矩阵,并且速度非常快。您应该进行测试。请注意条件不佳的矩阵和非常小的lambda值。
排名:您的矩阵稀疏:它们的等级是否完整?如果不是,那可能就是您面临的问题的一部分。当矩阵是奇异的或接近奇异时(检查估计的条件数,或至少看一下第一个和第N个特征值的比较-如果下降很大,则很麻烦-您可能会检查eval1与ev2。 ..,ev10,...)。同样,如果矩阵几乎是奇异的,则需要回到类似glmnet的位置,以缩小变量是共线的或具有非常低的支持度。
绑定可以减少矩阵的带宽吗?如果您可以阻止对角线化,那就太好了,但是您可能会有集团和多个集团的成员。如果可以修剪关系最差的成员,则可以估计它们的alpha中心为同一团体中的最小值的上限。 R中有一些软件包适合这种情况(请查看Reverse Cuthill-McKee;或者只是看一下如何将其转换为矩形,通常与集团或较小的团体有关)。如果您有多个断开连接的组件,则一定要将数据分离到单独的矩阵中。
替代方案您是否已加入Alpha Centrality?可能存在其他度量具有单调相关性(即具有较高的秩相关性),且具有相同的值,可以更便宜地计算出或至少非常有效地实现相同的值。如果这些方法行得通,那么您的分析将花费更少的精力。我有一些想法,但是SO并不是真正进行讨论的地方。


为了获得更多的统计数据,应在stats.stackexchange.com, Cross-Validated上进行适当的问答。



更新2:我回答的速度太快了,从长远的角度来看并没有解决这个问题。如果您打算长期对此类系统进行研究,则应考虑其他更适合您的数据和计算基础架构类型的求解器。求解器和预处理器的选项的Here is a very nice directory。似乎其中不包含IBM's "Watson" solver suite。尽管安装软件可能需要数周的时间,但是如果您有很好的HPC管理员,则很有可能已经安装了其中一个软件包。

另外,请记住,可以将R软件包安装到用户目录-您无需在常规目录中安装软件包。如果您需要以用户以外的身份执行某些操作,则还可以将程序包下载到临时空间或临时空间(如果您仅在1个R实例中运行,但使用多个内核,请签出tempdir)。

关于r - 为Ax = b并行求解Solve()吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7936660/

相关文章:

r - 选择包含 R 中每日最大值的行

r - 在使用 ldpy 将数据帧列表合并为一个之前/之后向数据帧的每一行添加标识符

r - 用 "super big"矩阵绘制热图

r - ggplot2 密度与密度函数有何不同?

Python:并行化 GPU 和 CPU 工作

C# 并行循环问题

javascript - 为操作完成而调用 Node 异步回调

python - 如何为 Scipy 的 csr_matrix 指定行名和列名?

python - 稠密矩形矩阵乘以稀疏矩阵

python - csv到python中的稀疏矩阵