在 Keras 中使用 fit_generator

Question

我是在fit_generator中使用fit_generator ，所以我尝试编写一个简单的脚本来帮助我理解它是如何工作的。

X = np.array([[1,2],[10,3],[2,4],[20,5],[30,1],[3,5],[4,6],[7,4],[5,10],[1,7]])
Y = np.array([[2,3],[30,13],[8,6],[100,25],[30,31],[15,8],[24,10],[28,11],[50,15],[7,8]])

def generator(feat,labels):
    i=0
    while (True):
        yield feat[i],labels[i]
        i+=1

model_fnn = tf.keras.models.Sequential()
model_fnn.add(tf.keras.layers.Dense(50, input_dim=X.shape[1], activation=tf.nn.relu))
model_fnn.add(tf.keras.layers.Dense(Y.shape[1], activation=tf.keras.activations.linear))

nb_epoch = 3000

model_fnn.compile(optimizer='adam', loss='mean_squared_error', metrics=['accuracy'])
model_fnn.fit_generator(generator(X,Y), steps_per_epoch=10, epochs=nb_epoch, verbose=0)

但它给了我错误：

ValueError: Error when checking input: expected dense_2_input to have shape (2,) but got array with shape (1,)

有人可以帮忙吗？ 谢谢！

Answer 1

这个错误似乎是由于您需要将每个输入/标签包装到一个 Numpy 数组中，这将是训练批次。 此生成器的代码将是：

def generator(feat,labels):
    i=0
    while (True):
        yield np.array([feat[i]]), np.array([labels[i]])
        i+=1

你的错误应该得到解决。 您将使用批量大小 1 进行训练，因为传递给训练的每个数组将仅包含 1 个对象。

但是，为了使用带 yield 的生成器进行训练，您需要确保循环不会崩溃，因为它是一个无限循环并且您没有无限数据。 这可以使用itertools.cycle来实现：

import itertools

def generator(feat,labels):
    pairs = [(x, y) for x in feat for y in labels]
    cycle_pairs = itertools.cycle(pairs)
    while (True):
        f, p = next(cycle_pairs)
        return np.array([f]), np.array([p])

并且，为了进一步使用使用 yield 的生成器，您可以为函数提供一个参数来指定批量大小（如PyGirl 的评论中所述）。 这应该看起来像这样：

def generator(feat, labels, batch_size):
    pairs = [(x, y) for x in feat for y in labels]
    cycle_pairs = itertools.cycle(pairs)
    while (True):
        x = []
        y = []
        for _ in range(batch_size):
            f, p = next(cycle_pairs)
            x.append(f)
            y.append(p)
        yield np.array(x), np.array(y)

这意味着，在每一步中，生成器都会生成一个 Numpy 数组，其中包含要训练的batch_size元素。

为了更多地了解如何在fit_generator中使用fit_generator进行训练，我还建议阅读一些关于Keras Sequence Util 的信息，它比使用生成器更安全。

如果这有帮助，请告诉我！

Answer 2

我不确定，但如果您将批量大小添加为 1，则它可以工作，即展开 (2,) -> (1,2)

def generator(feat,labels, batch_size):

  samples_per_epoch = feat.shape[0]
  number_of_batches = samples_per_epoch/batch_size
  counter=0

  while 1:

    X_batch = np.array(feat[batch_size*counter:batch_size*(counter+1)]).astype('float32')
    y_batch = np.array(labels[batch_size*counter:batch_size*(counter+1)]).astype('float32')
    counter += 1
    yield X_batch,y_batch

    #restart counter to yeild data in the next epoch as well
    if counter >= number_of_batches:
        counter = 0