如何在 tf.keras 中屏蔽 lstm 的輸入

Question

我正在構建一個混合模型（基於 CNN 的 RNN）並且我想屏蔽輸入，問題是
conv 層不支持 mask_zero。 我試圖做掩蔽並將其傳遞給 lstm 像這樣：

inputs = tf.keras.layers.Input(shape=(100,))
     mask = tf.keras.layers.Masking().compute_mask(inputs) 
     embedding = tf.keras.layers.Embedding(self.preprocess["max_features"]+1, 300, input_length=100,
                 weights=[self.preprocess["matrix"]], trainable=True)(inputs) 
     lstm = tf.keras.layers.Bidirectional(tf.keras.layers.LSTM(200,recurrent_dropout=0.2, dropout=0.2,return_sequences=True))(embedding,mask=mask)
     conv = tf.keras.layers.Conv1D(filters=200, kernel_size=3, padding='same', activation='relu')(lstm)

矩陣的 0 ind 是零向量。

我從 lstm 層收到以下錯誤： IndexError: list assignment index out of range

Answer 1

你有沒有試過檢查Tensorflow的文檔？ 轉到此鏈接，我認為它會對您有所幫助。
在上面的例子中，他們添加了mask_zero=True

embedding = layers.Embedding(input_dim=5000, output_dim=16, mask_zero=True)
masked_output = embedding(padded_inputs)

print(masked_output._keras_mask)