如何停止在 Keras 中过度安装 Model？

Question

我正在研究文本分类问题。 我的 Model 看起来像这样：

Model: "sequential_6"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
embedding_6 (Embedding)      (None, 100, 50)           676050    
_________________________________________________________________
lstm_6 (LSTM)                (None, 16)                4288      
_________________________________________________________________
dropout_1 (Dropout)          (None, 16)                0         
_________________________________________________________________
dense_6 (Dense)              (None, 3)                 51        
=================================================================
Total params: 680,389
Trainable params: 680,389
Non-trainable params: 0
_________________________________________________________________
None

该数据集包含大约 5300 个句子。 我正在使用验证拆分 = 0.33。 Model 行为异常。 验证损失不断增加，验证准确性不断变化。 我附上图表。 请指导我如何解决这个问题。

我的 Model 看起来像这样：

    model=Sequential()
    model.add(Embedding(
      num_words,
      EMBEDDING_DIM,
      input_length=MAX_SEQUENCE_LENGTH
    ))

model.add(LSTM(32,return_sequences=True))
model.add(Dropout(0.5))
model.add(GlobalMaxPool1D())
model.add(Dense(len(possible_labels), activation="softmax"))

我还附上了准确度图。

Answer 1

1. 增加辍学率。

2. 训练更少的时期。

3. 尝试使用 Conv1D 而不是 LSTM 来查看过拟合是否消失。