Theano：混合使用CPU和GPU？

Question

我建立了一个神经网络，该网络需要使用Cholesky分解并求解三角系统作为其计算的一部分。 当然，这意味着我还需要计算整个计算的梯度。

当我尝试编译代码时，出现错误“没有可用的Cula”。 不幸的是，我无法从网站上下载Cula。

我想知道是否可以将CPU和GPU与theano混合使用。 我需要在Cholesky和Solve上使用的矩阵很小（100x100），因此我可以在CPU上执行此操作。 但是，要做到这一点，我需要在GPU计算完矩阵后立即将其传输到CPU，然后将结果发送回GPU。 是否可以足够透明地执行此操作？

Answer 1

此转移是透明的。 不需要做一些特别的事情。 但我建议您对Theano图进行剖析，只是为了确保： http : //deeplearning.net/software/theano/tutorial/profiling.html#tut-profiling

对于cula，有一个PR可以根据NVIDIA现在提供的cusolver提供解决方案。 因此，这可能不再需要。 试试这个PR： https : //github.com/Theano/Theano/pull/4917