繁体   English   中英

如何在 tensorflow 2.x 中应用等效的 LSTM?

[英]How to apply equivalent LSTM in tensorflow 2.x?

我使用 tf.contrib 层在 TensorFlow 中编写循环神经网络。 我首先制作了 LSTM 单元类型,然后通过将该单元传递到另一层来提取 output 和状态。 但是在 TensorFlow 2.x 中,它似乎可以在一行中完成

output, state_h, state_c = layers.LSTM(self.args.embedding_size, return_state=True, name="encoder")(tf.nn.embedding_lookup(self.embeddings, self.neighborhood_placeholder)

而且我不能像在 tensorflow 1.x 中那样应用 dropout warpper。 如何将以下代码转换为 tensorflow 2.x?

with tf.variable_scope('LSTM'):
            cell = tf.contrib.rnn.DropoutWrapper(
                    tf.contrib.rnn.LayerNormBasicLSTMCell(num_units=self.args.embedding_size, layer_norm=False),
                    input_keep_prob=1.0, output_keep_prob=1.0)
            _, states = tf.nn.dynamic_rnn(
                    cell,
                    tf.nn.embedding_lookup(self.embeddings, self.neighborhood_placeholder),
                    dtype=tf.float32,
                    sequence_length=self.seqlen_placeholder)
            self.lstm_output = states.h

tf.contrib.rnn.DropoutWrapper替换为tf.compat.v1.nn.rnn_cell.DropoutWrapper

tf.contrib.rnn.LayerNormBasicLSTMCell替换为tf.compat.v1.nn.rnn_cell.LSTMCell

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM