[英]Visualizing decision tree in scikit-learn
我正在尝试使用 Python 中的 scikit-learn 设计一个简单的决策树(我在 Windows 操作系统上使用带有 Python 2.7.3 的 Anaconda 的 Ipython Notebook)并将其可视化如下:
from pandas import read_csv, DataFrame
from sklearn import tree
from os import system
data = read_csv('D:/training.csv')
Y = data.Y
X = data.ix[:,"X0":"X33"]
dtree = tree.DecisionTreeClassifier(criterion = "entropy")
dtree = dtree.fit(X, Y)
dotfile = open("D:/dtree2.dot", 'w')
dotfile = tree.export_graphviz(dtree, out_file = dotfile, feature_names = X.columns)
dotfile.close()
system("dot -Tpng D:.dot -o D:/dtree2.png")
但是,我收到以下错误:
AttributeError: 'NoneType' object has no attribute 'close'
我使用以下博客文章作为参考: Blogpost 链接
以下stackoverflow问题似乎对我也不起作用: 问题
有人可以帮助我如何在 scikit-learn 中可视化决策树吗?
对于那些使用jupyter和 sklearn(18.2+) 的人来说,这是一个衬里,您甚至不需要matplotlib
。 唯一的要求是graphviz
pip install graphviz
比运行(根据有问题的代码 X 是一个 Pandas DataFrame)
from graphviz import Source
from sklearn import tree
Source( tree.export_graphviz(dtreg, out_file=None, feature_names=X.columns))
这将以 SVG 格式显示它。 上面的代码生成 Graphviz 的Source对象(source_code - 并不可怕),它将直接在 jupyter 中呈现。
你可能会用它做的一些事情
在 jupter 中显示它:
from IPython.display import SVG
graph = Source( tree.export_graphviz(dtreg, out_file=None, feature_names=X.columns))
SVG(graph.pipe(format='svg'))
另存为 png:
graph = Source( tree.export_graphviz(dtreg, out_file=None, feature_names=X.columns))
graph.format = 'png'
graph.render('dtree_render',view=True)
获取png图片,保存并查看:
graph = Source( tree.export_graphviz(dtreg, out_file=None, feature_names=X.columns))
png_bytes = graph.pipe(format='png')
with open('dtree_pipe.png','wb') as f:
f.write(png_bytes)
from IPython.display import Image
Image(png_bytes)
sklearn.tree.export_graphviz
不返回任何内容,因此默认情况下返回None
。
通过执行dotfile = tree.export_graphviz(...)
您覆盖了之前分配给dotfile
打开文件对象,因此当您尝试关闭文件时会出现错误(因为它现在是None
)。
要修复它,请将您的代码更改为
...
dotfile = open("D:/dtree2.dot", 'w')
tree.export_graphviz(dtree, out_file = dotfile, feature_names = X.columns)
dotfile.close()
...
如果像我一样,你在安装 graphviz 时遇到问题,你可以通过
export_graphviz
导出它.dot
文件或者,您可以尝试使用 pydot 从 dot 生成 png 文件:
...
tree.export_graphviz(dtreg, out_file='tree.dot') #produces dot file
import pydot
dotfile = StringIO()
tree.export_graphviz(dtreg, out_file=dotfile)
pydot.graph_from_dot_data(dotfile.getvalue()).write_png("dtree2.png")
...
以下也可以正常工作:
from sklearn.datasets import load_iris
iris = load_iris()
# Model (can also use single decision tree)
from sklearn.ensemble import RandomForestClassifier
model = RandomForestClassifier(n_estimators=10)
# Train
model.fit(iris.data, iris.target)
# Extract single tree
estimator = model.estimators_[5]
from sklearn.tree import export_graphviz
# Export as dot file
export_graphviz(estimator, out_file='tree.dot',
feature_names = iris.feature_names,
class_names = iris.target_names,
rounded = True, proportion = False,
precision = 2, filled = True)
# Convert to png using system command (requires Graphviz)
from subprocess import call
call(['dot', '-Tpng', 'tree.dot', '-o', 'tree.png', '-Gdpi=600'])
# Display in jupyter notebook
from IPython.display import Image
Image(filename = 'tree.png')
你可以在这里找到来源
Scikit learn 最近引入了plot_tree
方法来使这变得非常容易(0.21 版(2019 年 5 月)中的新功能)。 文档在这里。
这是您需要的最少代码:
from sklearn import tree
plt.figure(figsize=(40,20)) # customize according to the size of your tree
_ = tree.plot_tree(your_model_name, feature_names = X.columns)
plt.show()
plot_tree
支持一些参数来美化树。 例如:
from sklearn import tree
plt.figure(figsize=(40,20))
_ = tree.plot_tree(your_model_name, feature_names = X.columns,
filled=True, fontsize=6, rounded = True)
plt.show()
如果要将图片保存到文件,请在plt.show()
之前添加以下行:
plt.savefig('filename.png')
如果你想在文本格式查看的规则,有一个答案在这里。 读起来更直观。
我复制并更改您的代码的一部分,如下所示:
from pandas import read_csv, DataFrame
from sklearn import tree
from sklearn.tree import DecisionTreeClassifier
from os import system
data = read_csv('D:/training.csv')
Y = data.Y
X = data.ix[:,"X0":"X33"]
dtree = tree.DecisionTreeClassifier(criterion = "entropy")
dtree = dtree.fit(X, Y)
确定你有dtree后,这意味着上面的代码运行良好,你添加下面的代码来可视化决策树:
记得先安装graphviz:pip install graphviz
import graphviz
from graphviz import Source
dot_data = tree.export_graphviz(dtree, out_file=None, feature_names=X.columns)
graph = graphviz.Source(dot_data)
graph.render("name of file",view = True)
我尝试使用我的数据,可视化效果很好,我立即看到了一个 pdf 文件。
您可以复制 export_graphviz 文件的内容,并将其粘贴到webgraphviz.com站点中。
您可以查看关于如何使用 graphviz 在 Python 中可视化决策树的文章以获取更多信息。
使用pydotplus 在这里创建的简单方法(必须安装graphviz):
from IPython.display import Image
from sklearn import tree
import pydotplus # installing pyparsing maybe needed
...
dot_data = tree.export_graphviz(best_model, out_file=None, feature_names = X.columns)
graph = pydotplus.graph_from_dot_data(dot_data)
Image(graph.create_png())
这是只需 3 行代码即可获得漂亮图形的最少代码:
from sklearn import tree
import pydotplus
dot_data=tree.export_graphviz(dt,filled=True,rounded=True)
graph=pydotplus.graph_from_dot_data(dot_data)
graph.write_png('tree.png')
plt.imshow(plt.imread('tree.png'))
我添加了plt.imgshow
来查看 Jupyter Notebook 的图表。 如果您只对保存 png 文件感兴趣,则可以忽略它。
我安装了以下依赖项:
pip3 install graphviz
pip3 install pydotplus
对于 MacOs,Graphviz 的 pip 版本不起作用。 按照 Graphviz 的官方文档,我用 brew 安装了它,一切正常。
brew install graphviz
如果您在直接获取源 .dot 时遇到问题,您还可以像这样使用Source.from_file
:
from graphviz import Source
from sklearn import tree
tree.export_graphviz(dtreg, out_file='tree.dot', feature_names=X.columns)
Source.from_file('tree.dot')
在jupyter笔记本中,以下内容绘制了决策树:
from sklearn.tree import DecisionTreeClassifier
model = DecisionTreeClassifier()
model.fit(X, y)
dot_data = tree.export_graphviz(model,
feature_names=feature_names,
class_names=class_names,
filled=True, rounded=True,
special_characters=True,
out_file=None,
)
graph = graphviz.Source(dot_data)
graph
如果要将其另存为png:
graph.format = "png"
graph.render("file_name")
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.