为什么Sklearn PCA需要的样本多于新功能（n_components）？

Question

当使用像这样的Sklearn PCA算法时

x_orig = np.random.choice([0,1],(4,25),replace = True)
pca = PCA(n_components=15)
pca.fit_transform(x_orig).shape

我得到输出

(4, 4)

我期望（希望）它是：

(4,15)

我明白为什么会发生这种情况。 在sklearn（ 这里 ）的文档中，它说（假设他们的'=='是赋值运算符）：

n_components == min(n_samples, n_features)

但他们为什么要这样做呢？ 另外，如何直接将形状[1,25]的输入转换为[1,10]（不叠加虚拟数组）？

Answer 1

每个主成分是数据在数据协方差矩阵的特征向量上的投影。 如果样本n比特征少，则协方差矩阵只有n个非零特征值。 因此，只有n个有意义的特征向量/组件。

原则上，可能有比样品更多的组件，但多余的组件将是无用的噪音。

Scikit-learn会引发错误而不是默默地做任何事情 。 这可以防止用户在脚下射击。 样本少于特征可能表明数据存在问题，或者对所涉及的方法存在误解。