如何将 inverse_transform 用于 Scikit-Learn PowerTransformer() 设置为 GridSearchCV 管道中 TransformedTargetRegressor 中的转换器参数

Question

我使用以下 GridSearchCV 训练了一组 LinearRegression 模型

MAX_COLUMNS=list(range(2, len(house_df.columns)))

X = house_df.drop(columns=['SalePrice'])
y = house_df.loc[:, 'SalePrice']

column_list = MAX_COLUMNS

# Box-cox transform the target 
reg_strategy = TransformedTargetRegressor()
bcox_transformer = PowerTransformer(method='box-cox')


model_pipeline = Pipeline([("std_scaler", StandardScaler()),
                           ('feature_selector', SelectKBest()),
                           ('regress', reg_strategy)])


parameter_grid = [{'feature_selector__k' : column_list,
                   'feature_selector__score_func' : [f_regression, mutual_info_regression],
                   'regress__regressor' : [LinearRegression()],
                   'regress__regressor__fit_intercept' : [True],
                   'regress__transformer' : [None, bcox_transformer]}]


score_types = {'MSE' : 'neg_mean_squared_error', 'r2' : 'r2'}

gs = GridSearchCV(estimator=model_pipeline, param_grid=parameter_grid, scoring=score_types, refit='MSE', cv=5, n_jobs=5, verbose=1)

gs.fit(X, y)

PATH = './datasets/processed_data/'
gridsearch_result_filename = 'pfY_np10_nt2_rfS_ct0_8_st1_orY_ccY_LR1_GS.pkl'
full_path = PATH + gridsearch_result_filename
with open(full_path, 'wb') as file:
    pickle.dump(gs, file)

然后我加载经过训练的 GridSearch 并可以使用最佳估计器进行预测，如下所示：

with open(MODEL_PATH, 'rb') as file:
    gs_results = pickle.load(file)


predictions = gs_results.predict(test_df)

我面临的问题是，由于在 GridSearch 期间应用了 Box-Cox 变换，我所有的预测都在 Box-Cox 变换分布域（巨大的值）中。

我需要在我的预测中使用 PowerTransformers inverse_transform() 方法，但我不确定如何访问它。

我可以获得像这样的最佳估算器的整个管道

gs_results.best_estimator_

然后我可以像这样访问管道内的 TransformedTargetRegressor：

更进一步，我们一直到 TransformedTargetRegressor 中的 PowerTransformer，如下所示：

在这里完成后，我愚蠢地认为我已经做到了我需要的地方，并且只需要使用 PowerTransformers inverse_transform 方法来做出将恢复到原始单位的预测。 然而，令我失望的是，抛出了一个错误：

错误似乎很清楚，告诉我我不能使用 inverse_transform 方法，因为 PowerTransformer 不合适。

这是我难倒的地方。 说 PowerTransformer 不合适是没有意义的，显然它在 GridSearch 过程中是合适的。

这让我觉得我只是错误地访问了 PowerTransformer，这是我当前的问题。

根据上面的设置，有没有人知道对我的预测进行逆变换的正确方法，使它们处于原始单位而不是 Box-Cox 分布单位？

为此，我一直在用头撞墙，并四处寻找类似的问题。 非常感谢您！

-布雷登

Answer 1

很像这里，属性transformer是未拟合的初始化属性； 您需要适合的transformer_属性。

但是，我不确定为什么predict还没有做你想要的； TransformedTargetRegressor.predict的文档说

使用基本回归量进行预测，应用逆。

回归器用于预测，并在返回预测之前应用inverse_func或inverse_transform 。