Tensorflow LSTM：如何為每批使用不同的權重？

Question

我說的是tf.keras.layers.LSTM實現，因為我想將cuDNN用於我的批處理 LSTM。

現在，我使用“手工制作”的 LSTM 實現，因為我希望每個批次都有不同的權重/偏差。 您是否知道如何使用 LSTM 的 TensorFlows LSTM 實現，並為每個批次使用一組獨特的權重/偏差？

Answer 1

也許你可以使用這樣的東西。 這是一個 CNN 全連接層的例子

def dense_fc4(n_objects):
        initializer = lambda: tf.contrib.layers.xavier_initializer()(shape=(1024,512))
        return tf.Variable(initial_value=initializer, name='fc4/kernel',
                           shape=(n_objects.shape[0], 1024, 512))


    W4 = tf.map_fn(dense_fc4, samples_flat)
    b4 = tf.get_variable('fc4/bias', shape=512, initializer=tf.zeros_initializer())
    fc4 = tf.add(tf.matmul(samples_flat, W4), b4)
    fc4 = tf.nn.relu(fc4)