为什么sklearn LatentDirichletAllocation的fit和partial_fit会返回不同的结果？

Question

奇怪的是，它似乎与fit和partial_fit完全相同。

您可以在以下链接中查看代码：

https://github.com/scikit-learn/scikit-learn/blob/c957249/sklearn/decomposition/online_lda.py#L478

Answer 1

代码不完全相同; partial_fit使用total_samples ：

“total_samples：int，optional（default = 1e6）文档总数。仅用于partial_fit方法。”

https://github.com/scikit-learn/scikit-learn/blob/c957249/sklearn/decomposition/online_lda.py#L184

（ 部分适合 ） https://github.com/scikit-learn/scikit-learn/blob/c957249/sklearn/decomposition/online_lda.py#L472

（ 适合 ） https://github.com/scikit-learn/scikit-learn/blob/c957249/sklearn/decomposition/online_lda.py#L510

以防万一您感兴趣：只要您的数据集非常大， partial_fit就是一个很好的候选者。 因此，不要遇到可能的内存问题 ，而是以较小的批量执行拟合，这称为增量学习 。

因此，在您的情况下，您应该考虑total_samples默认值为1000000.0 。 因此，如果您不更改此数字并且您的实际样本数量更大，那么您将从fit方法和fit_partial获得不同的结果。 或者可能是您在fit_partial中使用迷你批次并且未覆盖您为fit方法提供的所有样本的fit 。 即使你做得对，你也可以得到不同的结果，如文档中所述：

• “增量学习者本身可能无法应对新的/看不见的目标类。在这种情况下，你必须使用classes =参数将所有可能的类传递给第一个partial_fit调用。”
• “[...]选择一个合适的算法是，所有这些算法都不会随着时间的推移对每个例子赋予相同的重要性[...]

sklearn文档： https ：//scikit-learn.org/0.15/modules/scaling_strategies.html#incremental-learning