为旨在对流数据进行预测的模型标准化训练数据实际上是否现实？

Question

我正在尝试使用卷积神经网络根据非流数据预测活动（例如跑步、坐着、走路）。 与不标准化或标准化相比，标准化或标准化训练和测试数据显着提高了网络的预测性能。 到目前为止，一切都很好。

但是，我考虑让我的方法也适用于流数据。 但是，从理论上讲，我无法想象标准化或规范化流数据是有效的。 因为，对于标准化，您需要知道均值和标准差，这可能会随着每个新的传入数据点而改变。 对于规范化，您需要知道数据的最小值和最大值，这也可能随着每个新的传入数据点而改变。 既然是这种情况，对训练数据进行标准化或规范化甚至是没有意义的，因为这意味着为训练和不可见的数据创建不同的分布。

我不太确定我是否在这里遗漏了什么。 但是是否有流数据的解决方法，以便可以应用标准化或规范化？

Answer 1

缺少的是，您将训练的几乎每个模型都假设您的训练分布在某种程度上是恒定的。 如果您的数据不断变化，那么您必须不断更新/重新训练您的模型，因此您必须重新调整规范化器这一事实并不重要。 与实际上拟合任何 ML 模型相比，均值/标准差的估计具有超低的样本复杂性，因此如果您的模型不发散，那么您的归一化器也不会发散。