用不同长度的时间序列在Keras中训练LSTM

Question

我是Keras的新手，想知道如何使用（长度不等的）不同时间序列训练LTSM。 例如，考虑一个从第1天到第10天的连续序列，以及从第15天到第20天的另一个连续序列。将它们简单地串联为单个序列可能会产生错误的结果。 我基本上看到两个使它们成形的选项(batch_size, timesteps, output_features) ：

1. 将较短的序列扩展一些默认值（0），即对于上面的示例，我们将具有以下批次：

    d1, ..., d10 d15, ..., d20, 0, 0, 0, 0, 0 

2. 计算长度的GCD，将序列切成小块，并使用有状态的LSTM，即：

    d1, ..., d5 d6, ..., d10 reset_state d15, ..., d20 

还有其他/更好的解决方案吗？ 用完整序列训练无状态LSTM是否等于用片段训练有状态LSTM？

Answer 1

您是否尝试过向LSTM层输入不同长度的输入？ 使用LSTM时，输入时间序列的长度可以不同（即使批次的大小也可以不同，但​​是显然特征的尺寸应该相同）。 这是Keras中的一个示例：

from keras import models, layers

n_feats = 32
latent_dim = 64

lstm_input = layers.Input(shape=(None, n_feats))
lstm_output = layers.LSTM(latent_dim)(lstm_input)

model = models.Model(lstm_input, lstm_output)
model.summary()

输出：

Layer (type)                 Output Shape              Param #   
=================================================================
input_2 (InputLayer)         (None, None, 32)          0         
_________________________________________________________________
lstm_2 (LSTM)                (None, 64)                24832     
=================================================================
Total params: 24,832
Trainable params: 24,832
Non-trainable params: 0

如您所见，输入图层的第一和第二轴为None 。 这意味着它们不是预先指定的，可以是任何值。 您可以将LSTM视为一个循环。 无论输入长度如何，只要存在相同长度的剩余数据矢量（即n_feats ），LSTM层都会对其进行处理。 因此，如您在上面看到的，LSTM层中使用的参数数量并不取决于批处理大小或时间序列长度（它仅取决于输入特征向量的长度和LSTM的潜在维度）。

import numpy as np

# feed LSTM with: batch_size=10, timestamps=5
model.predict(np.random.rand(10, 5, n_feats))   # This works

# feed LSTM with: batch_size=5, timestamps=100
model.predict(np.random.rand(5, 100, n_feats))  # This also works

但是，根据您正在处理的特定问题，这可能不起作用。 尽管我现在没有任何具体的例子可以解决此问题，因此您应该确保所有时间序列的长度都相同。