带 LSTM 层的 CNN

Question

我已经实现了一个带有 LSTM 层的 CNN。 我的输入包含四张图片。 通过特征提取将图像转换为张量。 输入形状是 (4,256,256,3)。

下面是我的model的结构：

model = keras.models.Sequential()
model.add(TimeDistributed(Conv2D(32,(3,3),padding = 'same', activation = 'relu'),input_shape = (4,256,256,3)))
model.add(TimeDistributed(MaxPooling2D((2,2))))
model.add(TimeDistributed(Dropout(0.25)))


model.add(TimeDistributed(Conv2D(64,(3,3),padding = 'same', activation = 'relu')))
model.add(TimeDistributed(MaxPooling2D((4,4))))
model.add(TimeDistributed(Dropout(0.25)))


model.add(TimeDistributed(Conv2D(128,(3,3),padding = 'same', activation = 'relu')))
model.add(TimeDistributed(MaxPooling2D((2,2))))
model.add(TimeDistributed(Dropout(0.25)))

model.add(TimeDistributed(Flatten()))

model.add(LSTM(128, activation='tanh'))# finalize with standard Dense, Dropout...
model.add(Dense(64, activation='relu'))
model.add(Dropout(.5))
model.add(Dense(1, activation='relu'))

optim = keras.optimizers.Adam(learning_rate=0.001)
model.compile(optimizer=optim, loss=['MSE'])
history = model.fit(x=X, y=Y, batch_size=4, epochs=5, validation_split=0.2, validation_data=(X,Y))

我的问题是我的 model 预测所有输入的值相同。

可能是什么问题呢？

Answer 1

如果你正在处理一个分类问题，特别是二元分类，那么使用 sigmoid 激活而不是 softmax 而 MSE 是 loss in 不是二元分类的好选择。

Answer 2

您使用相同的数据进行训练和验证。 这扼杀了整个验证点。 也许错误就在于此。 尝试拆分数据，或应用交叉验证。

另外，relu激活function应用到最后一层结合mse报错看起来很奇怪。 至少real能给出无限的结果，数据应该归一化。

我希望这能帮到您