跨时代的恒定准确性

Question

我正在训练一个 gan 并且我的准确性不会随着时间的推移而改变，同时损失正在减少。 是有什么问题还是正常的因为是gan？

先感谢您。

Answer 1

为了完全回答这个问题（特定于您的情况），我们需要知道您使用的是什么损失函数以及您如何衡量准确性。

一般来说，这肯定会由于各种原因而发生。 最简单的说明原因是使用简单的分类器。 假设你有一个 2 类分类问题（为简单起见）和一个输入 $x$ 和标签 (1, 0)，即标签说它属于第 1 类而不是第 2 类。当你通过你的网络输入 $x$你得到一个输出：$y=(p_1, p_2)$。 如果 $p_1 > p_2$ 那么预测是正确的（即你选择了正确的类别）。 损失函数可以继续下降，直到 $p_1=1$ 和 $p_2=0$（目标）。 因此，您可以有很多正确的预测（高精度），但仍有改进输出以更好地匹配标签的空间（改进损失的空间）。