用於堆疊集成學習的多項邏輯回歸，將 2d 輸入到回歸中

Question

我正在嘗試實現一個堆疊集成 model 用於多類預測。

每個訓練示例都是一個具有 14 個特征的向量。 共有 12 個可能的類。 三個基本模型（如下所述）分別攝取一個 14 維特征向量訓練示例和 output 一個 12 維概率向量（1 個概率/類）。

三個基本分類模型是從頭開始構建的（即不是使用sklearn ，所以我不能簡單地使用sklearn集成方法），如下所示：

• Bayes Net：為每個 14 維訓練示例輸出一個 12 維概率向量（1 個概率/類別）
• 其他圖形 model：為每個 14 維訓練示例輸出一個 12 維概率向量（1 個概率/類別）
• 度量學習model：為每個14維訓練樣例輸出一個12維概率向量（1個概率/類）

我想為每個訓練示例堆疊來自每個訓練示例的基本模型的輸出（即堆疊 3 x 12-d 概率向量），並將這個 3x12 數組作為輸入提供給多項邏輯回歸集合 model 到 output a 12-每個訓練示例的最終多類預測的概率維向量。

但是，我不確定是否可以使用sklearn多項式回歸 model。 據我了解， sklearn model 只能攝取一維特征數組，而不是二維特征數組。

任何的建議都受歡迎。 謝謝你。

Answer 1

因此最終的解決方法非常簡單：將每個基礎 model 的3x12向量輸出展平為1x36特征向量，然后將其輸入到集成 model 中。

另一種選擇是從基礎 model 預測中構建張量，然后使用不同類型的集成分類器，即 CNN，但該方法被拒絕。