如何使用 bagging 集成 SVM 和 CNN 分類器？

Question

我正在使用 X 射線圖像對結核病進行分類。 雖然我從 X 射線圖像中提取有用的特征到一個 csv 文件中並使用它運行 SVM 並獲得大約 60% 的准確度。 同時，直接在圖像數據集上訓練的我的 CNN 模型達到了約 80% 的准確率。 我可以在網上找到參考資料，當兩個模型機器學習模型或深度學習模型，而不是另一個模型時，可以使用集成方法。 例如，我可以將 CNN 與另一種類型的 CNN 結合起來。

Answer 1

假設您的問題是“如何使用裝袋​​對 SVM 和 CNN 分類器進行集成”，這並不難。 你用整個訓練集的子集訓練每個模型 SVM 和 CNN（你可以使用每個模型的倍數）。 在訓練每個模型后，您提供測試數據，並且對於每個數據，所有模型都會進行分類。 它會像投票一樣工作。 SVM 投票為“真”，CNN 也投票為“真”，多數為“真”，因此您的集成模型會將其分類為“真”。

所以它是否是另一種類型的模型並不重要。

Answer 2

Bootstrap 聚合或裝袋是一種集成方法，您可以在訓練集的不同樣本上訓練不同的模型。 因此，Bagging 在這里不適用。

在集成 CNN 和 SVM 模型的情況下，一種簡單的方法是對預測進行平均。 還有其他技術，如稱重（准確模型的更多投票）等。請參閱此鏈接：

https://mlwave.com/kaggle-ensembling-guide/