我在矩阵分解中检测过度拟合的方法正确吗？

Question

我使用矩阵分解作为基于用户点击行为记录的推荐系统算法。 我尝试两种矩阵分解方法：

第一个是基本SVD，其预测只是用户因子向量u和项目因子i的乘积：r = u * i

我使用的第二个是带有偏置分量的SVD。

r = u * i + b_u + b_i

其中b_u和b_i代表用户和项目偏好的偏见。

我使用的其中一种模型的性能非常低，另一种是合理的。 我真的不明白为什么后者的表现会更差，并且我怀疑它是否过拟合。

我搜寻了过度拟合的方法，发现学习曲线是一个好方法。 但是，x轴是训练集的大小，y轴是精度。 这让我很困惑。 如何更改训练集的大小？ 从数据集中挑选一些记录？

另一个问题是，我试图绘制迭代损失曲线（损失为）。 似乎曲线是正常的：

但是我不确定这种方法是否正确，因为我使用的指标是精度和召回率。 我可以画出迭代精度曲线吗？？？ 还是这个已经说明我的模型是正确的？

有人可以告诉我我是否朝着正确的方向前进吗？ 非常感谢。 :)

Answer 1

我会反过来回答：

因此，您正在尝试两个不同的模型，一个模型使用直接矩阵分解r = u * i，另一个模型使用偏差r = u * i + b_u + b_i。

您提到您正在对推荐器系统进行矩阵分解，该系统将查看用户的点击。 所以我的问题是：这是一个隐式评级案例吗？ 还是明确的？ 我认为这是有关点击的隐式评级问题。

无论您的问题是关于显式还是隐式评级，这都是您需要非常了解的第一件事。 因为它们的使用和实现方式存在一些差异。

如果您在此处查看：http: //yifanhu.net/PUB/cf.pdf

隐式评级的处理方式是，例如，某人单击或购买给定项目的次数被用来推断置信度。 如果检查误差函数，您会发现置信度几乎被用作权重因子。 因此，整个想法是，在这种情况下，偏差没有任何意义。

在“显式评分”的情况下，例如评分为1-5的评分，则可以计算用户和产品的偏差（这些有界评分的平均值）并将其引入评分公式中。 他们在他的情况下很有道理。

关键是，根据您是处于一种情况还是另一种情况，可以使用偏差。

另一方面，您的问题是过度拟合，因为您可以将训练错误与测试错误一起绘制，根据数据的大小，您可以具有保持测试数据，如果误差相差很大，则表明您过度拟合。

另一件事是矩阵分解模型通常包含正则化项，请参阅此处发布的文章，以避免过度拟合。

因此，我认为您遇到的问题与我之前提到的问题不同。