如何使用python和scikit組合兩個邏輯回歸模型？

Question

我是一個Python和一個Scikit新手。 我有兩個使用Scikit創建的Logistic回歸模型，我想將它們組合起來以獲得新模型。 在我看來是這樣的：

clf1 = LogisticRegression()
clf1.fit(X_set, Y_set)
clf2 = LogisticRegression()
clf2.fit(X_set, Y_set)
combined_clf = clf1 + clf2

但我不知道該怎么做。 在此先感謝所有人。

Answer 1

兩種方法可能適合您的需求。

第一個是讓你的每個分類器投票給預測的類。 為此，您可以使用sklearn.ensemble.VotingClassifier 。 用你的例子：

from sklearn.ensemble import VotingClassifier
clf1 = LogisticRegression()
clf2 = LogisticRegression()
eclf1 = VotingClassifier(estimators=[('lr1', clf1), ('lr2', clf2),voting='hard')
eclf1 = eclf1.fit(X, Y)

另一個是堆疊 。 基本上，我們的想法是組合多個分類器的輸出，並在第一個分類器的輸出上訓練元分類器。

以下是描述該方法的有用鏈接： https ： //rasbt.github.io/mlxtend/user_guide/classifier/StackingClassifier/ 。

使用mlxtend和你的例子：

from mlxtend.classifier import StackingClassifier
clf1 = LogisticRegression()
clf2 = LogisticRegression()
lr = Your_Meta_Classifier()
sclf = StackingClassifier(classifiers=[clf1, clf2], 
                      meta_classifier=lr)

但是，在您的示例中，使用相同的確定性方法訓練模型，我不認為堆疊它們會導致任何改進。

希望它有所幫助！

（哦，可能重復： 使用scikit-learn（或任何其他python框架）的不同類型的回歸量的集合 ？）