![](/img/trans.png)
[英]Rewrite tf.contrib.layers.batch_norm in Tensorflow 2.0
[英]Migrate tf.contrib.layers.batch_norm to Tensorflow 2.0
我正在将 TensorFlow 代码迁移到 Tensorflow 2.1.0。
这是原始代码:
conv = tf.layers.conv2d(inputs, out_channels, kernel_size=3, padding='SAME')
conv = tf.contrib.layers.batch_norm(conv, updates_collections=None, decay=0.99, scale=True, center=True)
conv = tf.nn.relu(conv)
conv = tf.contrib.layers.max_pool2d(conv, 2)
这就是我所做的:
conv1 = Conv2D(out_channels, (3, 3), activation='relu', padding='same', data_format='channels_last', name=name)(inputs)
conv1 = Conv2D(64, (5, 5), activation='relu', padding='same', data_format="channels_last")(conv1)
#conv = tf.contrib.layers.batch_norm(conv, updates_collections=None, decay=0.99, scale=True, center=True)
pool1 = MaxPooling2D(pool_size=(2, 2), data_format="channels_last")(conv1)
我的问题是我不知道如何处理tf.contrib.layers.batch_norm
。
如何将tf.contrib.layers.batch_norm
迁移到 Tensorflow 2.x?
更新:
使用评论建议,我认为我已经正确迁移:
conv1 = BatchNormalization(momentum=0.99, scale=True, center=True)(conv1)
但我不确定decay
是否像momentum
,我不知道如何在BatchNormalization
方法中设置updates_collections
。
我在使用训练有素的 model 时遇到了这个问题,我将对其进行微调。 只是像 OP 一样用tf.keras.layers.BatchNormalization
替换tf.contrib.layers.batch_norm
确实给了我一个错误,其修复方法如下所述。
旧代码如下所示:
tf.contrib.layers.batch_norm(
tensor,
scale=True,
center=True,
is_training=self.use_batch_statistics,
trainable=True,
data_format=self._data_format,
updates_collections=None,
)
更新后的工作代码如下所示:
tf.keras.layers.BatchNormalization(
name="BatchNorm",
scale=True,
center=True,
trainable=True,
)(tensor)
我不确定我删除的所有关键字 arguments 是否都会成为问题,但似乎一切正常。 请注意name="BatchNorm"
参数。 这些图层使用不同的命名模式,因此我不得不使用inspect_checkpoint.py
工具查看 model 并找到恰好是BatchNorm
的图层名称。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.