多个数据集的批量标准化？ [关闭]

Question

关闭。 此问题不符合Stack Overflow 准则。 它目前不接受答案。

---

想改善这个问题吗？ 更新问题，使其成为 Stack Overflow的主题。

昨天关闭。

改进这个问题

我正在处理生成合成数据以帮助训练我的模型的任务。 这意味着训练是在合成 + 真实数据上进行的，并在真实数据上进行测试。

有人告诉我，批量归一化层可能会在训练时试图找到对所有人都有益的权重，这是一个问题，因为我的合成数据的分布并不完全等于真实数据的分布。 因此，我们的想法是拥有批量标准化层权重的不同“副本”。 这样神经网络对合成数据和真实数据估计不同的权重，只使用真实数据的权重进行评估。

我的问题是，如何在上述情况下执行批量标准化？ PyTorch 中是否已经有一个批处理规范层的实现来解决这个问题？