关于决策树ID3算法，熵，信息增益率的权威解释，稍后奉上python代码

决策树分类算法概述
决策树算法是从数据的属性（或者特征）出发，以属性作为基础，划分不同的类。
看了本书，叫知识发现，内容很好，果断扫描
这里写图片描述
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-y0KjDIXV-1573128163116)(https://img-blog.csdn.net/20171122164926817?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvSEhUTkFO/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)]

在使用 sklean.tree.DecisionTreeClassifier 训练决策树画出决策树时碰到以下问题：

按顺序安装一下包及程序：

1、cmd -> pip install GraphViz

2、在http://www.graphviz.org/Download_windows.php下载GraphViz的zip包，解压放在某目录下 （如果你不小心关掉安装完成之后自动打开的编辑 器，可以重新运行下面这个EXE：D:\Program Files\Graphviz2.38\bin\gvedit.exe）

3、将系统路径的path后添加 D:\Program Files\Graphviz2.38\bin

4、 pip install pydotplus（python 2.7以上安装pydotplus 而非pydot）

5、重启pyhton IDE
上面有不懂的欢迎留言！