用于计算k最近邻的距离度量

Question

我正在阅读有关k最近邻居的信息，示例中给出的距离度量如下。

它说Ri是第i个分量的范围。 我对这里使用哪种距离测量感到困惑？ 我了解欧几里得距离，但事实并非如此。 您能否帮助解释什么是“第i个分量的范围”以及这是一个距离度量？ 非常感谢。 请让我知道是否需要更多信息。

Answer 1

范围是训练数据集中该特征（列）的最大值和最小值之差。

您可以将其视为L1范数，因为我们仅取最大值和最小值之间的绝对距离。 通常这样做是为了标准化跨要素的距离计算，以使某些要素不应主导距离计算。

Answer 2

给出的公式仅适用于欧几里得距离，只是在计算距离时已对数据进行归一化。

数据的规范化对于KNN是必要的，因为如果不这样做，则具有较高值的​​要素将在决定输出中占主导地位。 上面的KNN公式忽略了标准化的显式步骤，并在计算距离时就位了。

注： -在这里， i代表^第i列，而不是行。

这是公式的实际解释，

R _i = x _i ^max -x _i ^min

在规范化的同时，我们使用以下转换对每一行进行转换，

x _i = x _i /（x _i ^max -x _i ^min ）

因此，在计算距离时，公式有效

d ² =（（a ₁ -x ^min ）-（b ₁ -x ^min ）） ² / R ₁ ² +（（a ₂ -x ^min ）-（b ₂ -x ^min ）） ² / R ₂ ² +。 .. +（（（a _n -x ^min ）-（b _n -x ^min ）） ² / R _n ²

实际上，

d ² =（a ₁ -b ₁ ） ² / R ₁ ² +（a ₂ -b ₂ ） ² / R ₂ ² + ... +（a _n -b _n ） ² / R _n ²

，如上图所示。