如何使用scikit-learn預測具有分類和連續特征的二進制結果？

Question

我需要為分類問題選擇模型和機器學習算法的建議。

我試圖預測一個對象的二進制結果。 我的數據集中有500,000條記錄，還有20個連續和分類特征。 每個主題都有10--20條記錄。 數據標有其結果。

到目前為止，我正在考慮基於此處的備忘單的邏輯回歸模型和核近似。

我不確定在R或Python中實現此功能時從何處開始。

謝謝！

Answer 1

在任何數據挖掘項目中，選擇算法和優化參數都是一項艱巨的任務。 因為它必須針對您的數據和問題進行定制。 嘗試使用不同的算法，例如SVM，隨機森林，邏輯回歸，KNN和...，並對每個算法進行交叉驗證，然后進行比較。 您可以在病態學習中使用GridSearch嘗試不同的參數並為每種算法優化參數。 也嘗試這個項目 ，用遺傳算法測試一系列參數

Answer 2

特征

如果分類功能沒有太多可能的不同值，則可能需要查看sklearn.preprocessing.OneHotEncoder 。

型號選擇

“最佳”模型的選擇主要取決於可用訓練數據的數量以及您期望獲得的決策邊界的簡單性。

您可以嘗試將尺寸降低到2或3維。 然后，您可以可視化數據並查看是否存在良好的決策邊界。

通過50萬個訓練示例，您可以考慮使用神經網絡。 我可以向初學者推薦Keras ，向那些了解神經網絡如何工作的人推薦TensorFlow 。

您還應該知道有Ensemble方法 。

在您已經發現的sklearn教程中，有一個很好的備忘單：

_{（來源： scikit-learn.org ）}

只需嘗試一下，比較不同的結果。 沒有更多信息，就不可能給您更好的建議。