用于堆叠集成学习的多项逻辑回归，将 2d 输入到回归中

Question

我正在尝试实现一个堆叠集成 model 用于多类预测。

每个训练示例都是一个具有 14 个特征的向量。 共有 12 个可能的类。 三个基本模型（如下所述）分别摄取一个 14 维特征向量训练示例和 output 一个 12 维概率向量（1 个概率/类）。

三个基本分类模型是从头开始构建的（即不是使用sklearn ，所以我不能简单地使用sklearn集成方法），如下所示：

• Bayes Net：为每个 14 维训练示例输出一个 12 维概率向量（1 个概率/类别）
• 其他图形 model：为每个 14 维训练示例输出一个 12 维概率向量（1 个概率/类别）
• 度量学习model：为每个14维训练样例输出一个12维概率向量（1个概率/类）

我想为每个训练示例堆叠来自每个训练示例的基本模型的输出（即堆叠 3 x 12-d 概率向量），并将这个 3x12 数组作为输入提供给多项逻辑回归集合 model 到 output a 12-每个训练示例的最终多类预测的概率维向量。

但是，我不确定是否可以使用sklearn多项式回归 model。 据我了解， sklearn model 只能摄取一维特征数组，而不是二维特征数组。

任何的建议都受欢迎。 谢谢你。

Answer 1

因此最终的解决方法非常简单：将每个基础 model 的3x12向量输出展平为1x36特征向量，然后将其输入到集成 model 中。

另一种选择是从基础 model 预测中构建张量，然后使用不同类型的集成分类器，即 CNN，但该方法被拒绝。