R中的矩阵运算：并行化，稀疏运算，GPU计算

Question

我的问题的基本目标是如何使用Matrix包在R实现矩阵运算的最佳性能。 特别是我希望并行化操作（乘法）并使用CUDA GPU上的计算来处理稀疏矩阵。

细节

根据R cran Matrix包的文档

丰富的矩阵类层次结构，包括三角形，对称矩阵和对角矩阵，包括密集和稀疏矩阵，以及模式，逻辑和数字条目。 使用'LAPACK'和'SuiteSparse'库对这些矩阵进行了大量的操作和操作。

看来，由于SuiteSparse我应该能够使用GPU（CUDA）对稀疏矩阵执行基本操作。 特别是SuiteSparse的文档列出了以下内容：

SSMULT和SFMULT：稀疏矩阵乘法。

在我的Gentoo上，我安装了suitesparse-4.2.1以及suitesparseconfig-4.2.1-r1 。 我也有lapack ， scalapack和blas 。 R sessionInfo()如下所示：

R version 3.4.1 (2017-06-30)
Platform: x86_64-pc-linux-gnu (64-bit)
Running under: Gentoo/Linux

Matrix products: default
BLAS: /usr/lib64/blas/reference/libblas.so.0.0.0
LAPACK: /usr/lib64/lapack/reference/liblapack.so.0.0.0

locale:
 [1] LC_CTYPE=en_GB.UTF-8       LC_NUMERIC=C
 [3] LC_TIME=en_GB.UTF-8        LC_COLLATE=en_GB.UTF-8
 [5] LC_MONETARY=en_GB.UTF-8    LC_MESSAGES=en_GB.UTF-8
 [7] LC_PAPER=en_GB.UTF-8       LC_NAME=C
 [9] LC_ADDRESS=C               LC_TELEPHONE=C
[11] LC_MEASUREMENT=en_GB.UTF-8 LC_IDENTIFICATION=C

attached base packages:
[1] stats     graphics  grDevices utils     datasets  methods   base

other attached packages:
[1] Matrix_1.2-10

loaded via a namespace (and not attached):
[1] compiler_3.4.1  grid_3.4.1      lattice_0.20-35

我还设置了环境变量：

export CHOLMOD_USE_GPU=1

这是我在一个论坛上发现的，可能应该允许GPU使用。

基本上，当我运行一个简单的测试时，一切看起来都准备好了：

library(Matrix)
M1<-rsparsematrix(10000,10000,0.01) 
M<-M1%*%t(M1)

似乎GPU没有工作，好像R忽略了suitesparse功能。

我知道问题很广泛，但是：

• 有没有人知道是否应该以特定的，严格的方式编译R来使用suitesparse ？
• 如何确保Matrix包使用所有共享库进行并行化和稀疏操作（使用GPU）？
• 任何人都可以确认他能够使用Matrix包在CUDA / GPU计算上运行矩阵运算吗？

据我浏览Stack和其他论坛，这个问题不应该是重复的。

Answer 1

1. 这并不像你描述的那么容易。 Matrix包包含SuiteSparse 子集 ，该子集内置于包中。 因此Matrix不使用您的系统SuiteSparse （您可以在此处轻松浏览Matrix源代码）。
2. sparse_matrix * sparse_matrix乘法很难有效地并行化 - 策略根据两个矩阵的结构而变化很大。
3. 在许多情况下，计算受内存限制，而不受CPU限制
4. 由于上述内存问题和内存访问模式，GPU上的性能可能比CPU差。
5. 根据我的知识，有几个库实现了多线程SSMULT - 英特尔MKL和librsb ，但我还没有听说过R接口。
6. 如果矩阵很大，您可以手动分区矩阵并使用标准mclapply 。 我怀疑这会有所帮助。
7. 您可以尝试使用Eigen和RcppEigen并在那里执行SSMULT。 我相信它可能会更快（但仍然是单线程）。
8. 最终我会考虑如何重新制定问题并避免SSMULT