如何在TensorFlow中将顺序操作与副作用结合在一起

Question

我正在TensorFlow中开发GAN。 目前的培训时间表是

feed_dict = ...
sess.run(discriminator_train_op, feed_dict);
sess.run(generator_train_op, feed_dict);
sess.run(generator_train_op, feed_dict);

我们发现发电机每步两次，因为我们发现它可以带来更好的稳定性。

现在我想将这些操作组合在一起，所以我只需要给网络供电一次，因为Tensorflow的供电速度很慢。 我试过了

with tf.control_dependencies([discriminator_train_op]):
    train_op = tf.group(generator_train_op);
with tf.control_dependencies([train_op]):
    train_op = tf.group(generator_train_op);

假设control_dependencies指定一个操作必须在另一个操作之后进行。 但是，分析时间轴表明，生成器中执行的某些梯度下降与鉴别器中的下降是平行的。 换句话说，不执行该命令。 另外，通过在网络中添加调试语句，我发现组合的train_op仅训练生成器一次，而不训练两次。

有什么方法可以将对这一系列操作的控制从Python移到Tensorflow？

Answer 1

with tf.control_dependencies([discriminator_train_op]):
    train_op_g1 = tf.group(generator_train_op);
with tf.control_dependencies([train_op_g1]):
    train_op_g2 = tf.group(generator_train_op);

sess.run([discriminator_train_op, train_op_g1, train_op_g2], feed_dict)