验证和训练准确性很高，在第一个时期[Keras]

Question

我正在训练一个具有2个类和53k图像的图像分类器，并使用keras使用1.3k图像对其进行验证。 这是神经网络的结构：

model = Sequential()
model.add(Flatten(input_shape=train_data.shape[1:]))
model.add(Dense(256, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(256, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(1, activation='sigmoid'))
model.compile(optimizer='adam',
              loss='binary_crossentropy', metrics=['accuracy'])

训练准确性在第一个时期从〜50％增加到〜85％，验证准确性为85％。 随后的历时不断提高训练准确性，但是，验证准确性保持在80-90％的范围内。

我很好奇，是否有可能在第一个时期获得较高的验证和培训准确性？ 如果我的理解是正确的，那么它会从很小的地方开始，并随着每个经过的时期稳步增加。

谢谢

编辑：重新缩放后图像大小为150x150，最小批处理大小为16。

Answer 1

使用前馈神经网络进行图像分类时，您不能指望获得超过90-95％的精度。

您需要使用另一种称为卷积神经网络的体系结构，这是图像识别中的最新技术。

同样，使用keras来构建它非常容易，但是在计算上比这更密集。

如果要坚持使用前馈层，最好的办法是尽早停止，但是即使那样也不能使准确性超过90％。

Answer 2

是的，时代应该适合模型中的数据。

尝试在末尾使用2个神经元，并在ur类标签上使用1个热编码！ 就像我看到的那样，在这种情况下我得到了更好的结果，而不是二进制输出。

Answer 3

是的，完全有可能在第一个时期获得较高的准确性，然后仅进行适度的改进。

如果数据中有足够的冗余，并且您在第一个时期（即，使用小型迷你批处理）进行了足够的更新（复杂的模型，似乎很容易优化），则很可能您会学到大多数重要的东西在第一个时代。 当您再次显示数据时，该模型将开始过拟合训练集中特定图像所引入的比值（从而使训练准确度提高），但是由于您没有提供任何新颖的样本，因此该模型不会学到任何新知识。类的基础属性。

您可以将您的训练数据视为无限流（实际上，SGD希望享受所有收敛定理）。 您是否认为需要超过5万个样本才能了解重要内容？ 实际上，您可以通过提供一些亚纪元的更新后提供更少的数据或报告性能来测试模型的数据需求。