使用 AdamOptimizer 继续训练自定义 tf.Estimator

Question

我创建了一个自定义 tf.Estimator，我正在使用 tf.train.AdamOptimizer 训练其权重。 当我继续训练现有模型时，我观察到在 Tensorboard 中继续训练开始时指标的急剧变化。 几步后，指标趋于稳定。 该行为看起来类似于训练模型时的初始瞬态。 如果我继续在同一个 Estimator 实例上训练，或者如果我从检查点重新创建估算器，则行为是相同的。 我怀疑在重新开始训练时移动平均线和/或偏差校正因子会被重置。 模型权重本身似乎得到了适当的恢复，因为指标确实从他们之前确定的地方继续下去，只有有效学习率似乎太高了。

以前的 Stack-Overflow 答案似乎表明这些辅助学习参数应该与检查点以及模型权重一起存储。 那么我在这里做错了什么？ 如何控制这些辅助变量的恢复？ 我希望能够继续训练，就好像它从未停止过一样。 然而，其他人有时似乎在寻找相反的控制，在不重置模型权重的情况下完全重置优化器。 显示如何实现这两种效果的答案可能最有帮助。

这是我的model_fn的草图：

def model_fn(features, labels, mode, params):
    inputs = features['inputs']
    logits = create_model(inputs, training=mode == tf.estimator.ModeKeys.TRAIN)

    if mode == tf.estimator.ModeKeys.PREDICT:
        ...

    if mode == tf.estimator.ModeKeys.TRAIN:
        outputs = labels['outputs']

        loss = tf.losses.softmax_cross_entropy(
            tf.one_hot(outputs,tf.shape(inputs)[-1]),
            logits,
#            reduction=tf.losses.Reduction.MEAN,
        )
        optimizer = tf.train.AdamOptimizer(learning_rate=params.learning_rate)

        update_ops = tf.get_collection(tf.GraphKeys.UPDATE_OPS)

        with tf.control_dependencies(update_ops):
            train_op = optimizer.minimize(loss, tf.train.get_or_create_global_step())

        accuracy = tf.metrics.accuracy(
            labels = outputs,
            predictions = tf.argmax(logits, axis=-1),
        )

        tf.summary.histogram('logits',logits)
        tf.summary.scalar('accuracy', accuracy[1])
        tf.summary.scalar('loss', loss)

        return tf.estimator.EstimatorSpec(
            mode=tf.estimator.ModeKeys.TRAIN,
            loss=loss,
            train_op=train_op)

    if mode == tf.estimator.ModeKeys.EVAL:
        ...

    raise ValueError(mode)

训练步骤的调用如下：

cfg = tf.estimator.RunConfig(
    save_checkpoints_secs = 5*60,  # Save checkpoints every 1 minutes.
    keep_checkpoint_max = 10,       # Retain the 10 most recent checkpoints.
    save_summary_steps = 10,
    log_step_count_steps = 100,
)
estimator = tf.estimator.Estimator(
    model_fn = model_fn,
    params = dict(
        learning_rate = 1e-3,
    ),
    model_dir = model_dir,
    config=cfg,
)
# train for the first time
estimator.train(
    input_fn=train_input_fn,
)
# ... at some later time, train again
estimator.train(
    input_fn=train_input_fn,
)

编辑：

tf.estimator.Estimator和tf.estimator.WarmStartSettings的warm_start_from参数的文档并不完全清楚在默认情况下究竟会发生什么，正如我在上面的示例中使用的那样。 然而，[ tf.train.warm_start ] ( https://www.tensorflow.org/api_docs/python/tf/train/warm_start ) 的文档似乎表明在默认情况下，所有TRAINABLE_VARIABLES都将是热启动的，哪一个

从批处理规范中排除诸如累加器和移动统计数据之类的变量

事实上，我在VARIABLES找到了 Adam 的累加器变量，但在TRAINABLE_VARIABLES没有。 这些文档页面还说明了如何将热启动变量列表更改为tf.Variable实例列表或它们的名称列表。 但是，仍然存在一个问题：考虑到使用tf.Estimator ，我如何提前创建这些列表之一，但我没有图表可以从中收集这些变量/它们的名称？

编辑2：

warm_start的源代码突出了一个未记录的特性：变量名列表实际上是一个正则表达式列表，与 GLOBAL_VARIABLES 匹配。 因此，可以使用

    warm_start_from=tf.estimator.WarmStartSettings(
        ckpt_to_initialize_from=str(model_dir),
    #    vars_to_warm_start=".*", # everything in TRAINABLE_VARIABLES - excluding optimiser params 
        vars_to_warm_start=[".*"], # everything in GLOBAL_VARIABLES - including optimiser params 
    ),

加载所有变量。 然而，即便如此，汇总统计数据中的峰值仍然存在。 有了这个，我现在完全不知所措。

Answer 1

默认情况下，度量被添加到本地变量和度量变量集合中，并且默认情况下这些不是检查点。

如果要将它们包含在检查点中，您可以将度量变量附加到全局变量集合中：

tf.add_to_collection(tf.GraphKeys.GLOBAL_VARIABLES, tf.get_collection(tf.GraphKeys.METRIC_VARIABLES))

或者您可以返回一个带有自定义Saver集的Scaffold ，将变量传递到检查点到Saver的var_list参数。 这默认为全局变量集合。