Python实现决策树算法 C4.5和ID3算法

最新推荐文章于 2024-07-11 09:58:56 发布

seekerhit

最新推荐文章于 2024-07-11 09:58:56 发布

阅读量2.1k

点赞数

分类专栏：数据挖掘文章标签： python 决策树 C4.5 ID3

本文链接：https://blog.csdn.net/seekerhit/article/details/50901039

版权

该博客介绍了如何用Python语言实现C4.5和ID3决策树算法，提供了源代码并详细说明了切换算法的方法。用户可以通过修改函数熵的返回值来选择使用C4.5或ID3。示例运行命令为：`python c45.py data.txt`，其中data.txt是数据文件路径。

摘要由CSDN通过智能技术生成

本文以python语言实现了C4.5和ID3算法，默认为C4.5算法，若要使用ID3算法，将函数 entropy()最后的返回值改变一下即可，即注释掉C4.5那行代码，启用ID3那行代码即可。

将源代码保存为python文件，命名为c45.py，最后一个参数为数据的路径，可自由设置，参考以下运行方式：

python c45.py data.txt

特别感谢：

点击打开链接

源代码如下：

#!/usr/bin/python
# -*- coding: UTF-8 -*-
__author__ = 'Administrator'
########      C4.5  ID3  finished!!        ######
#################  (tm_year=2016, tm_mon=3, tm_mday=15, tm_hour=22, tm_min=56, tm_sec=56, tm_wday=1, tm_yday=75, tm_isdst=0)  ################
import re
import math
import sys

mini_size = 1 #### the minimum size of the nodes, the nodes will not be splited in the next though it is not fully just one type
DataLength = 100  ### the length of data items
used = [0 for i in range(DataLength)] ### attribute used or not
ended = [0 for i in range(DataLength)]  #### if the nodes will be splited in the next
tp = [-1 for i in range(DataLength)]  #### 1 - yes, 0 - no

class node:
    def __init__(self):
        self.value = ''
        self.father =