默认情况下，TensorFlow是同时使用GPU / CPU进行计算还是仅使用GPU？

Question

默认情况下，TensorFlow将使用我们可用的GPU设备。 也就是说，TensorFlow是同时使用GPU 和CPU进行计算 ，还是将GPU用于计算而将CPU和CPU用于作业处理（无论如何，我认为CPU始终处于活动状态）？

Answer 1

通常，它同时使用CPU和GPU（假设您使用的是启用GPU的TensorFlow）。 实际使用的内容取决于代码所使用的实际操作。

对于TensorFlow中可用的每个操作，此类操作都有几种“实现”，通常是CPU实现和GPU实现。 某些操作仅具有CPU实施，因为这对于GPU实施没有意义，但是总体上大多数操作可用于两种设备。

如果进行自定义操作，则需要提供所需的实现。

Answer 2

TensorFlow操作随附了可以执行的设备列表以及关联的优先级列表。

例如，卷积非常有利于在GPU上进行计算； 但仍可以在CPU上完成，而标量加法绝对应该在CPU上完成。 您可以使用tf.Device以及相关设备的密钥覆盖此选择。

Answer 3

如果我错了，请有人纠正我。

但是据我所知，TensorFlow仅使用GPU或CPU，具体取决于您运行的安装。 例如，如果您使用了pip install TensorFlow for python 2或python3 -m pip install TensorFlow for python 3，那么您将仅使用CPU版本。

反之亦然，适用于GPU。

如果您仍然有任何疑问，或者如果此举不能正确回答您的问题，请随时问我更多。