如何通过Python机器学习模型运行测试数据？

Question

因此，我终于用Python完成了我的第一个机器学习模型。 最初，我采用数据集并将其拆分为：

# Split-out validation dataset
array = dataset.values
X = array[:,2:242]
Y = array[:,1]
validation_size = 0.20
seed = 7
X_train, X_validation, Y_train, Y_validation = model_selection.train_test_split(X, Y, test_size=validation_size, random_state=seed)

这样您就可以看到我将使用20％的数据进行验证。 但是，一旦建立了模型，我想使用从未接触过的数据进行验证/测试。 我是否只需制作相同的X，Y数组并使validation_size = 1？ 我坚持不进行重新培训就如何进行测试。

models = []
models.append(('LR', LogisticRegression()))
models.append(('LDA', LinearDiscriminantAnalysis()))
models.append(('KNN', KNeighborsClassifier()))
models.append(('CART', DecisionTreeClassifier()))
models.append(('NB', GaussianNB()))
#models.append(('SVM', SVC()))
# evaluate each model in turn
results = []
names = []
for name, model in models:
    kfold = model_selection.KFold(n_splits=12, random_state=seed)
    cv_results = model_selection.cross_val_score(model, X_train, Y_train, cv=kfold, scoring=scoring)
    results.append(cv_results)
    names.append(name)
    msg = "%s: %f (%f)" % (name, cv_results.mean(), cv_results.std())
    print(msg)


lr = LogisticRegression()
lr.fit(X_train, Y_train)
predictions = lr.predict(X_validation)
print(accuracy_score(Y_validation, predictions))
print(confusion_matrix(Y_validation, predictions))
print(classification_report(Y_validation, predictions))

我可以通过模型运行数据，并返回预测，但是如何在“新”历史数据上对此进行测试？

我可以做这样的预测：lr.predict（[[5.7，...，2.5]]）

但不确定如何通过测试数据集并获得confusion_matrix / classification_report。

Answer 1

[question]: I can run data through the model, and return a prediction, but how do I test this on 'new' historical data?

如果您在下面查看我的项目，则可以看到我如何训练和测试我的数据。 我个人绝不会测试我的所有数据。 https://github.com/wendysegura/Portland_Forecasting/blob/master/CSV_Police_Files/Random%20Forest%202012-2016.ipynb

sklearn模型类和方法的一般形式。

1. 模型= base_models.AnySKLearnObject（）
   • 创建一个估计器类的实例
2. model.fit（train_X，train_y）
   • 训练模型 也称为“拟合数据”
3. model.score（train_X，train_y）
   • 使用默认评分方法使用训练数据对模型评分（建议以后使用指标模块）
4. model.predict（test_X）
   • 预测您的测试数据
5. model.score（test_X，test_y）
   • 使用测试数据为模型评分
6. model.predict（一个new_x）
   • 对一组新数据做出预测

Answer 2

但是，一旦建立了模型，我想使用从未接触过的数据进行验证/测试。

您将数据拆分以用于训练和测试（验证）的原因是要在不参与训练集的数据上运行模型。 因此，您的模型不应使用测试集进行学习，也不要碰它。

有时，如果您想与另一个测试集进行比较，则可以提取两个测试集（使用相同的方法），例如（50％，25％，25％）或（70％，15％，15％），等，取决于您的数据分布。

我可以通过模型运行数据，并返回预测，但是如何在“新”历史数据上对此进行测试？

您使用预测方法。 但是，当您拥有“新”数据时，就没有验证数据集，因为您不知道新数据的验证数据集。 这就是为什么机器学习可以与概率，准确性和其他指标一起工作的原因，它可以向您展示在“新”数据上它可以发挥多大的作用。