如何在python for循环中创建和删除类实例

Question

我正在使用一个类来创建一个张量流模型。 在 for 循环中，我创建了一个实例，我必须在每次迭代结束时删除该实例以释放内存。 删除不起作用，我的内存不足。 这是我尝试过的最小示例：

import numpy as np

class tfModel(self, x):
   def __init__(self, x):
      ....

   def predict(self, x):
      ...
      return x_new


if __name__=="__main__":

   x = np.ones(100)
   for i in range(0, 3):
      model = tfModel(x)
      x = model.predict(x)
      del model

我在相关问题中读到“del”只删除一个引用，而不是类实例本身。 但是如何确保所有引用都被删除并且实例可以被垃圾收集？

Answer 1

我认为你在谈论两件事：

1. 模型本身。 我假设您的模型适合您的记忆。 否则，您将无法运行任何预测。
2. 数据。 如果数据是问题，你应该用python做一个数据生成器，这样不是所有的数据都同时存在于内存中。 您应该生成每个示例 ( x ) 或每批示例并将它们输入模型以获得预测。 如果您的内存无法保存所有结果，则可以在必要时将结果序列化到磁盘。

更具体地说，是这样的：

class tfModel(self):
   def __init__(self):
      ....

   def predict(self, x):
      ...
      return x_new

def my_x_generator():
  for x in range(100):
    yield x


THRESHOLD = 16

if __name__=="__main__":

   model = tfModel()
   my_result_buffer = []
   for x in my_x_generator():
      x_pred = model.predict(x)
      my_result_buffer.append(x_pred)
      if len(my_result_buffer) > THRESHOLD:
        ## serialize my_result_buffer to disk
        my_result_buffer = []

另请注意，在我上面的示例代码中：

1. tfModel的构造tfModel不应依赖于x 。 （ x从__init__删除）。 当然，您可以使用模型参数来初始化模型。
2. 您应该在数据循环之外实例化您的模型。 例如，模型只需要实例化一次； 将使用相同的模型对所有示例进行预测。

Answer 2

这似乎是一个特定的张量流问题。 使用模块 multiprocessing，可以在 for 循环中生成进程。 完成后关闭进程并释放内存。

我在这里找到了这个解决方案： Clearing Tensorflow GPU memory after model execution