高斯过程的超参数回归

Question

我知道高斯过程回归模型主要由其协方差矩阵指定，自由超参数充当模型的“权重”。 但是，谁能解释协方差矩阵中的2个超参数（长度标度和振幅）代表什么（因为它们不是“真实”参数）？ 我对这两个参数的“实际”含义有些困惑。

提前谢谢你的帮助。 :)

Answer 1

首先，我想指出的是，高斯过程中可以使用无数个内核。 但是，最常见的一种是RBF（也称为平方指数，平方幂等）。 该内核具有以下形式：

上面的等式当然适用于简单的一维情况。 这里l是长度标度，sigma是方差参数（请注意，根据来源，它们使用不同的名称）。 长度标尺有效地控制了两个点如何看起来相似，因为它简单地放大了x和x'之间的距离。 方差参数控制函数的平滑程度。 这些是相关但不相同的。

《内核食谱》给出了很好的描述，并将RBF内核与其他常用内核进行了比较。