Keras LSTM 的第二层（但不是第一层）中的输入形状错误

Question

我正在尝试构建一个 LSTM 模型，在https://keras.io/layers/recurrent/ 处理文档示例

from keras.models import Sequential
from keras.layers import LSTM

以下三行代码（加上注释）直接取自上面的文档链接：

model = Sequential()
model.add(LSTM(32, input_dim=64, input_length=10))

# for subsequent layers, not need to specify the input size:
model.add(LSTM(16))

ValueError：输入 0 与层 lstm_2 不兼容：预期 ndim=3，发现 ndim=2

在执行第二个 model.add() 语句后，但在将模型暴露给我的数据之前，甚至编译它之前，我得到了上面的错误。

我在这里做错了什么？ 我正在使用 Keras 1.2.1。

编辑

刚刚升级到当前的 1.2.2，仍然有同样的问题。

Answer 1

感谢 patyork 在Github上回答这个问题：

第二个 LSTM 层没有得到它期望的 3D 输入（形状为（batch_size、timesteps、features）。这是因为第一个 LSTM 层具有（默认值）return_sequences=False，这意味着它只输出t-1 时刻的最后一个特征集，其形状为 (batch_size, 32)，或不包括时间的 2 个维度。

因此，要提供如何使用堆叠 LSTM 实现多对一（return_sequences=False）序列分类的代码示例，只需确保在中间层使用 return_sequences=True ，如下所示：

model = Sequential()
model.add(LSTM(32, input_dim=64, input_length=10, return_sequences=True))
model.add(LSTM(24, return_sequences=True))
model.add(LSTM(16, return_sequences=True))
model.add(LSTM(1,  return_sequences=False))

model.compile(optimizer = 'RMSprop', loss = 'categorical_crossentropy')

（没有错误）