Keras/Tensorflow 如何使用 GPU 和 CPU？

Question

我想知道keras是如何使用电脑资源的。

例如，假设我们使用 keras 序列 class 来训练海量数据集，4 个图像输入和 1 个图像 output。 图像的大小为 640 x 480，网络的权重约为 5M。 如果我们将训练批大小设置为 4，输入图像加载在哪里（RAM 或 VRAM），网络加载在哪里？

我想知道这是因为，当我使用 16 x (96 x 96 x 3) 批量大小为 32 训练网络时，具有 16M 权重的网络运行良好，

但我未能使用 4 x (480 x 640 x 3) 和批量大小 3 训练网络，网络具有 5M 权重（现在我的设备正在使用批量大小 2 进行训练）。 我无法理解 Keras 是如何使用资源的，所以想找到最有效的方法来训练更大批量的网络。

我的设备有 128GB RAM 和 32GB VRAM，带有 Nvidia Tesla V100。

Answer 1

这可能是本地进程的外部问题，除了 Keras 的 memory 使用。

1. 请上传您用于培训的代码。
2. 尝试使用 分析器工具监控 memory 的使用情况。