限制 Tensorflow CPU 和内存使用

Question

我已经看到了几个关于带有 Tensorflow 的 GPU 内存的问题，但我已经将它安装在没有 GPU 支持的 Pine64 上。

这意味着我使用非常有限的资源（仅限 CPU 和 RAM）运行它，而 Tensorflow 似乎想要这一切，完全冻结了我的机器。

有没有办法限制分配给 Tensorflow 的处理能力和内存量？ 类似于 bazel 自己的--local_resources标志？

Answer 1

这将创建一个一次运行一个操作的会话，并且每个操作只有一个线程

sess = tf.Session(config=
    tf.ConfigProto(inter_op_parallelism_threads=1,
                   intra_op_parallelism_threads=1))

不确定是否限制内存，它似乎是按需分配的，当我的网络需要 100GB 的 RAM 时，我让 TensorFlow 冻结了我的机器，所以我的解决方案是使网络需要更少的 RAM

Answer 2

对于 TensorFlow 2.x，这已在以下线程中得到解答：

在 Tensorflow 2.x 中，不再有会话。 在程序开始时直接使用 config API 设置并行度。

import tensorflow as tf

tf.config.threading.set_intra_op_parallelism_threads(2)
tf.config.threading.set_inter_op_parallelism_threads(2)
with tf.device('/CPU:0'):
    model = tf.keras.models.Sequential([...

https://www.tensorflow.org/api_docs/python/tf/config/threading