K最近邻居验证性能

Question

我正在使用knn对电信问题进行分类。 我将数据分为70％的训练和30％的验证。 尽管knn分类器在训练中能够在2个十分之一中捕获超过80％的数据，但其在验证样本中的表现却好于随机45度线。 令我感到惊讶的是，KNN如何工作，以至于模型在训练和验证中的表现是如此不同。

有指针吗？

Answer 1

没有更多细节，很难找到合理的指针。 您的KNN的行为取决于几个方面：

• 定义邻居的参数K 例如，如果将其设置为K=1 ，那么您将根本不会收到任何训练错误，这表明可能没有理由考虑进行训练到验证错误。

• 通常使用交叉验证找到参数K 我建议您也这样做。

• 距离度量。 您正在使用哪个功能，是否有不同的单位，长度刻度等？

• 数据的噪音，数据的大小...-仅存在难以描述的数据集。

顺便说一句：您能否说出您要描述的数据类型，并在可能的情况下还提供一些示例或显示一些散点图（数据和结果）？