如何使用tf.train.shuffle_batch训练NN？

Question

我已经训练了我用张量流网络构建的神经，并且得到了一些我想减少的过拟合。 我希望分批学习该模型可以对我尝试验证该想法的广告有所帮助。 我找到了tf.train.shuffle_batch（）并与之抗争了。 所以我尝试了，但没有成功。 Tensorflow的文档无济于事。 我找到了一个主题，但是那里的示例仅打印出数组。 用它来学习NN是有前途的，但是在我的情况下，不是将数据分为n个元素批次，而是将它们乘以n倍的额外维度。

这是代码示例：

nnInput = tf.placeholder(tf.float32, [None, input_width], "network_input")
nnOutput = tf.placeholder(tf.float32, [None, output_width], "expected_labels")

batch_readings, batch_labels = tf.train.shuffle_batch(
    [
        tf.constant(train_readings), 
        tf.constant(train_labels)
    ],
    batch_size = 15,
    num_threads = 4,
    capacity = 500,
    min_after_dequeue = 250,
    allow_smaller_final_batch = True
)

sess.run(tf.global_variables_initializer())

for epoch in range(learning_steps):
    print("epoch:", epoch)
    coord = tf.train.Coordinator()
    threads = tf.train.start_queue_runners(coord=coord)
    print("Input data shapes:", train_readings.shape, train_labels.shape)
    for batch in range(10):
        x, y = sess.run([batch_readings, batch_labels])
        print("Batch shapes:", x.shape, y.shape)
        sess.run(train, feed_dict = {nnInput : x, nnOutput : y})
    coord.request_stop()
    coord.join(threads)

这是输出：

epoch: 0 
Input data shapes: (165, 60) (165, 1) 
Batch shapes: (15, 165, 60) (15, 165, 1)

错误列表的结尾为：

ValueError: Cannot feed value of shape (15, 165, 60) for Tensor 'network_input_1:0', which has shape '(?, 60)'

当我用3D数组填充NN时，结论并不令人惊讶，但是为什么当我期望x：（15，60）和y：（15，1）时为什么得到这样的批处理？ 为什么我得到x：（15，165，60）y：（15，165，1）以及如何获得有用的批次？

我正在使用tensorflow-gpu，但希望它也能正常工作，对吧？

Answer 1

使用tf.train.shuffle_batch时遇到了相同的问题。 解决方案是添加参数enqueue_many = True 。 默认值为enqueue_many为False 。

如tf.train.shuffle_batch中的文档中所述， “如果enqueue_many为True，则张量假定代表一批示例，其中第一个维度由example索引，并且所有张量成员在第一个维度中的大小均应相同如果输入张量具有形状[*，x，y，z]，则输出将具有形状[batch_size，x，y，z]。”