如何使用statsmodels获得多元线性回归的标准化（Beta）系数

Question

使用 .summary .summary() function 使用 pandas 统计模型时，OLS 回归结果包括以下字段。

coef    std err          t      P>|t|      [0.025      0.975]

我如何获得标准化系数（不包括截距），类似于 SPSS 中可实现的？

Answer 1

您只需要先使用 z 分布（即 z 分数）对原始 DataFrame 进行标准化，然后执行线性回归。

假设您将 dataframe 命名为df ，它具有自变量x1 、 x2和x3以及因变量y 。 考虑以下代码：

import pandas as pd
import numpy as np
from scipy import stats
import statsmodels.formula.api as smf

# standardizing dataframe
df_z = df.select_dtypes(include=[np.number]).dropna().apply(stats.zscore)

# fitting regression
formula = 'y ~ x1 + x2 + x3'
result = smf.ols(formula, data=df_z).fit()

# checking results
result.summary()

现在， coef将向您显示标准化（beta）系数，以便您可以比较它们对因变量的影响。

笔记：

1. 请记住，您需要.dropna() 。 否则，如果列有任何缺失值， stats.zscore将返回所有NaN 。
2. 您可以手动选择 select 列，而不是使用.select_dtypes() ，但要确保您选择的所有列都是数字。
3. 如果您只关心标准化（beta）系数，您也可以使用result.params只返回它。 它通常以科学记数法的方式显示。 您可以使用类似round(result.params, 5)的东西来舍入它们。

Answer 2

我们可以通过 exog 的标准偏差来转换估计的params 。 results.t_test(transformation) 计算线性变换变量的参数表。

AFAIR，以下应产生 beta 系数和相应的推论统计数据。

计算标准偏差，但将其设置为 1 作为常量。

std = model.exog.std(0)
std[0] = 1

然后使用 results.t_test 并查看 params_table。 np.diag(std)创建一个对角矩阵来转换params 。

tt = results.t_test(np.diag(std))
print(tt.summary()
tt.summary_frame()

Answer 3

您可以通过采用标准偏差来转换非标准化系数。 标准化系数（Beta）是驱动分析的要求。 以下是对我有用的代码。 X 是自变量，y 是因变量，系数是 coef，由 (model.params) 从 ols 中提取。

sd_x = X.std()
sd_y = Y.std()
beta_coefficients = []

# Iterate through independent variables and calculate beta coefficients
for i, col in enumerate(X.columns):
    beta = coefficients[i] * (sd_x[col] / sd_y)
    beta_coefficients.append([col, beta])

# Print beta coefficients
for var, beta in beta_coefficients:
    print(f' {var}: {beta}')