有没有办法手动修改从给定数据集学习到的决策树中设置的阈值？

Question

我试图使用 scikit-learn 的模块tree创建一个决策树模型。 生成模型后，我将树和决策所依据的标准可视化。 但是，我希望手动修改某些标准中的阈值，以查看相同的输出如何变化。 有什么方法可以这样做吗？ 或者任何库一旦从数据集中学习到所需的阈值，就会将决策树转换为一堆 if-else 语句，反之亦然？

我知道模块选择的阈值基于一些杂质指标，如基尼杂质、信息增益等。但是，我仍然想用这些阈值进行试验。

谢谢！

Answer 1

是的，您可以轻松做到这一点。

sklearn决策树通过tree_属性公开其底层树。 除其他外，这个tree_有一个属性threshold ，它是一个包含所有节点阈值的 numpy 数组。 您可以修改此数组，从而更改阈值。

例如：

X,y = load_breast_cancer(return_X_y=True)
dt = DecisionTreeClassifier(max_depth=3).fit(X,y)
print(dt.tree_.threshold)     #All the thresholds, size equals "dt.tree_.node_count"
dt.tree_.threshold[3] = 10.0  #Manually modifying a threshold    

为了验证，如果您在此修改之前和之后比较单独测试集的准确性（假设您修改了一个非叶节点），您应该注意到一个变化（这可能更糟）。