使用SciPy接口和Cython直接调用BLAS / LAPACK

Question

此处有一篇文章： https ://gist.github.com/JonathanRaiman/f2ce5331750da7b2d4e9，通过调用Fortran库（BLAS / LAPACK / Intel MKL / OpenBLAS /随NumPy一起安装的任何库），它显示了极大的速度改进。 经过数小时的研究（由于不建议使用的SciPy库），我终于得到了编译，但没有结果。 它比NumPy快2倍。 不幸的是，正如另一个用户指出的那样，Fortran例程始终将输出矩阵添加到计算出的新结果中，因此它仅在第一次运行时与NumPy相匹配。 即A := alpha*x*yT + A 因此，这仍然有待快速解决。

[更新：对于那些想要使用SCIPY接口的人，请点击这里https://github.com/scipy/scipy/blob/master/scipy/linalg/cython_blas.pyx，因为它们已经对BLAS / LAPACK进行了优化在CPDEF声明中，只需复制/粘贴到您的CYTHON脚本中即可# Python-accessible wrappers for testing:同样在cython_lapack.pyx上方的链接中可用，但没有Cython测试脚本]

测试脚本

import numpy as np;
from cyblas import outer_prod;
a=np.random.randint(0,100, 1000);
b=np.random.randint(0,100, 1000);
a=a.astype(np.float64)
b=b.astype(np.float64)
cy_outer=np.zeros((a.shape[0],b.shape[0]));
np_outer=np.zeros((a.shape[0],b.shape[0]));

%timeit outer_prod(a,b,cy_outer)
#%timeit outer_prod(a,b) #use with fixed version instead of above line, results will automatically update cy_outer
%timeit np.outer(a,b, np_outer)
100 loops, best of 3: 2.83 ms per loop
100 loops, best of 3: 6.58 ms per loop

＃结束测试脚本

用于编译cyblas.pyx的PYX文件（主要是np.ndarray版本）

import cython
import numpy as np
cimport numpy as np

from cpython cimport PyCapsule_GetPointer 
cimport scipy.linalg.cython_blas
cimport scipy.linalg.cython_lapack
import scipy.linalg as LA

REAL = np.float64
ctypedef np.float64_t REAL_t
ctypedef np.uint64_t  INT_t

cdef int ONE = 1
cdef REAL_t ONEF = <REAL_t>1.0

ctypedef void (*dger_ptr) (const int *M, const int *N, const double *alpha, const double *X, const int *incX, double *Y, const int *incY, double *A, const int * LDA) nogil
cdef dger_ptr dger=<dger_ptr>PyCapsule_GetPointer(LA.blas.dger._cpointer, NULL)  # A := alpha*x*y.T + A

cpdef outer_prod(_x, _y, _output):
#cpdef outer_prod(_x, _y): #comment above line & use this to use the reset output matrix to zeros
    cdef REAL_t *x = <REAL_t *>(np.PyArray_DATA(_x))
    cdef int M = _y.shape[0]
    cdef int N = _x.shape[0]
    #cdef np.ndarray[np.float64_t, ndim=2, order='c'] _output = np.zeros((M,N)) #slow fix to uncomment to reset output matrix to zeros
    cdef REAL_t *y = <REAL_t *>(np.PyArray_DATA(_y))
    cdef REAL_t *output = <REAL_t *>(np.PyArray_DATA(_output))
    with nogil:
        dger(&M, &N, &ONEF, y, &ONE, x, &ONE, output, &M)

非常感激。 希望这可以为其他人节省一些时间（ALMOST可以工作）-实际上，正如我所说的，它可以工作1倍并匹配NumPy，然后每个后续调用都将再次添加到结果矩阵中。 如果我将输出矩阵重置为0并重新运行结果，则匹配NumPy。 奇怪...尽管如果取消注释，上面的几行内容也只能在NumPy速度下运行。 已经找到了memset替代方法，该替代方法将在另一篇文章中……我只是还没有弄清楚如何调用它。

Answer 1

根据netlib dger(M, N, ALPHA, X INCX, Y, INCY, A, LDA)执行A := alpha*x*y**T + A 因此， A应该全为零以获得X和Y的外积。