如何让Tensorflow使用Multipe GPU

Question

我使用Tensorflow训练带有3个GPU的模型。 但是，我发现它仅使用1。该代码没有任何GPU配置，因为我认为Tensorflow将自动检测GPU，并将计算自动分配到3个GPU中。 这似乎不符合我的预期。

在所附的屏幕截图中，训练程序启动时检测到3个GPU，但是温度监视器显示只有1个处于活动状态。

训练期间如何同时使用3个GPU？

在此处输入图片说明

Answer 1

您将必须手动配置代码以使用多个GPU进行培训。 因为必须为每个GPU操作定义上下文，并且您将必须定义三个GPU的上下文，并划分或分配由相应GPU手动执行的任务。 请参考以下链接，它可以帮助您实现所需的目标。 https://www.tensorflow.org/tutorials/using_gpu （用于常规GPU配置）

https://www.tensorflow.org/tutorials/deep_cnn （这是CNN训练多个GPU的示例）