Python scikit 学习 pca.explained_variance_ratio_ cutoff

Question

在选择主成分 (k) 的数量时，我们选择 k 作为最小值，以便例如保留 99% 的方差。

但是，在 Python Scikit 学习中，我不是 100% 确定pca.explained_variance_ratio_ = 0.99等于“保留了 99% 的方差”？ 有谁能开导吗？ 谢谢。

• Python Scikit 学习 PCA 手册在这里

http://scikit-learn.org/stable/modules/generated/sklearn.decomposition.PCA.html#sklearn.decomposition.PCA

Answer 1

是的，你几乎是对的。 pca.explained_variance_ratio_参数返回每个维度解释的方差向量。 因此pca.explained_variance_ratio_[i]给出了仅由 i+1 维解释的方差。

你可能想做pca.explained_variance_ratio_.cumsum() 。 这将返回一个向量x使得x[i]返回由前 i+1 个维度解释的累积方差。

import numpy as np
from sklearn.decomposition import PCA

np.random.seed(0)
my_matrix = np.random.randn(20, 5)

my_model = PCA(n_components=5)
my_model.fit_transform(my_matrix)

print my_model.explained_variance_
print my_model.explained_variance_ratio_
print my_model.explained_variance_ratio_.cumsum()

---

[ 1.50756565  1.29374452  0.97042041  0.61712667  0.31529082]
[ 0.32047581  0.27502207  0.20629036  0.13118776  0.067024  ]
[ 0.32047581  0.59549787  0.80178824  0.932976    1.        ]

所以在我的随机玩具数据中，如果我选择k=4我将保留 93.3% 的方差。

Answer 2

虽然这个问题已经超过 2 年了，但我想提供一个更新。 我想做同样的事情，看起来 sklearn 现在提供了开箱即用的功能。

如文档中所述

如果 0 < n_components < 1 且 svd_solver == 'full'，则选择需要解释的方差量大于 n_components 指定的百分比的分量数

所以现在需要的代码是

my_model = PCA(n_components=0.99, svd_solver='full')
my_model.fit_transform(my_matrix)

Answer 3

这对我有用，在 PCA 部分打字更少。 为方便起见，添加其余部分。 只有“数据”需要在较早的阶段进行定义。

import sklearn as sl
from sklearn.preprocessing import StandardScaler as ss
from sklearn.decomposition import PCA 

st = ss().fit_transform(data)
pca = PCA(0.80)
pc = pca.fit_transform(st) # << to retain the components in an object
pc

#pca.explained_variance_ratio_
print ( "Components = ", pca.n_components_ , ";\nTotal explained variance = ",
      round(pca.explained_variance_ratio_.sum(),5)  )