使用交叉验证来确定机器学习算法的权重（GridSearchCv、RidgeCV、StackingClassifier）

Question

我的问题与 GridSearchCV、RidgeCV 和 StackingClassifier/Regressor 有关。

1. Stacking Classifier/Regressor-AFAIK，它首先为每个基本估计器单独训练整个训练集。 然后，它使用交叉验证方案，使用每个基本估计器的预测作为新特征来训练新的最终估计器。 来自文档：“为了概括和避免过度拟合，final_estimator 在内部使用 sklearn.model_selection.cross_val_predict 对样本外进行训练。”

我的问题是，这到底是什么意思？ 它是否将训练数据分成 k 折，然后对于每折，在折的训练部分训练最终估计器，在折的测试部分对其进行测试，然后从折中获取最终估计器的权重最佳得分？ 或者是什么？

2. 我想我可以将 GridSearchCV 和 RidgeCV 归为同一个问题，因为它们非常相似。 （尽管 ridgeCV 默认使用一个与所有 CV）

- 要找到最佳超参数，他们是否对所有折叠进行 CV，对于每个超参数，找到具有最佳平均得分的超参数，然后在找到最佳超参数后，使用最佳超参数训练 model，使用整个训练放？ 还是我看错了？

如果有人能对此有所了解，那就太好了。 谢谢！

Answer 1

你完全正确。 该过程如下所示：

1. Select 第一组超参数
2. 将数据分成 k 折
3. 在每个折叠上运行 model
4. 获得平均分数（损失、r2 或任何指定的标准）
5. 对所有其他超参数集重复步骤 2-4
6. 选择得分最高的超参数集
7. 使用最佳超参数在整个数据集（而不是单折）上重新训练 model