PCA得分与原始变量的最小二乘拟合

Question

我有100个变量，我想使用变量var15-v25进行因子分析。 为此，我首先将变量提取到另一个对象（比如f ），然后运行主成分分析。

现在，我想将PCA分数与原始数据集合并，以使用PCA分数作为预测变量运行回归。

任何人都可以建议我合并这两个数据集的方法。 我使用的代码如下：

spss_data_factor <- sqldf("SELECT Respondent_Serial,Q4_01_Q4,Q4_02_Q4,Q4_03_Q4,Q4_04_Q4,Q4_05_Q4,Q4_06_Q4,Q4_07_Q4,Q4_08_Q4,Q4_09_Q4,Q4_10_Q4 FROM spss_data_rel")
f <- princomp(spss_data_factor1, cor = TRUE)
summary(f, loadings=TRUE)
f$scores[, 1:5]

Answer 1

请避免使用R base包中的名称 - factor是保留的。 它会工作得很好，但它可能会使你在某些开发点上感到困惑......而且你的factor不是文件，它是princomp类的R对象。

无论如何，您想要将因子得分定义为预测变量的回归模型？ 一块蛋糕......并且不需要合并：

fa <- princomp(mtcars, cor=TRUE)
fa_scores <- fa$scores
fit <- lm(mtcars$hp ~ fa_scores)
summary(fit)

Call:
lm(formula = mtcars$hp ~ fa_scores)

Residuals:
       Min         1Q     Median         3Q        Max 
-2.521e-14 -7.825e-15 -2.416e-15  5.622e-15  4.329e-14 

Coefficients:
                   Estimate Std. Error    t value Pr(>|t|)    
(Intercept)       1.467e+02  2.862e-15  5.125e+16   <2e-16 ***
fa_scoresComp.1  -2.227e+01  1.113e-15 -2.000e+16   <2e-16 ***
fa_scoresComp.2  -1.679e+01  1.758e-15 -9.549e+15   <2e-16 ***
fa_scoresComp.3   9.449e+00  3.614e-15  2.614e+15   <2e-16 ***
fa_scoresComp.4  -4.567e+00  5.513e-15 -8.285e+14   <2e-16 ***
fa_scoresComp.5  -3.644e+01  6.055e-15 -6.019e+15   <2e-16 ***
fa_scoresComp.6  -4.821e+00  6.222e-15 -7.747e+14   <2e-16 ***
fa_scoresComp.7  -1.010e-01  7.783e-15 -1.297e+13   <2e-16 ***
fa_scoresComp.8   1.501e+01  8.164e-15  1.838e+15   <2e-16 ***
fa_scoresComp.9  -3.886e+01  1.031e-14 -3.768e+15   <2e-16 ***
fa_scoresComp.10  1.672e+01  1.255e-14  1.333e+15   <2e-16 ***
fa_scoresComp.11 -1.731e+01  1.928e-14 -8.979e+14   <2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 

Residual standard error: 1.619e-14 on 20 degrees of freedom
Multiple R-squared:     1,  Adjusted R-squared:     1 
F-statistic: 5.053e+31 on 11 and 20 DF,  p-value: < 2.2e-16 

您可能还希望将原始数据集转换为矩阵，以便在每个响应矩阵列上执行ncol(mtcars)回归。 lm函数支持response ~ terms公式，其中response可以是矩阵。 见?lm ：

如果响应是矩阵，则线性模型通过最小二乘法分别拟合到矩阵的每列。

所以，你可以这样做：

fit2 <- lm(as.matrix(mtcars) ~ fa_scores)
summary(fit2) # handle with care! =)

我希望这有用......

---

无论如何，如果您想进行因子分析，请参阅此链接 。 你应该安装William Revelle的psych包。

Answer 2

谢谢aL3xa！ 我找到了解决方案的答案。 我把它放在这里，因为有人可能会发现它有用。

## Factor Analysis
library(psych)
spss_data_fac=read.csv("D:\\Arijit\\spss_data_rel_01.csv")
fa.parallel(spss_data_fac[,40:49])
spss_data_fac_01=factanal(spss_data_fac[,40:49],factors=2,scores="regression",rotation="promax")
spss_data_fac_01$scores
## Factor Analysis factors are used for logistic regression
spss_dat_reg=glm(spss_data_fac$Q8~spss_data_fac_01$scores+spss_data_fac$Q14)
summary(spss_dat_reg)

问候，A