u012822513的专栏

原创 ID3算法Java实现

ID3算法java实现 1 ID3算法概述 1.1 信息熵 熵是无序性（或不确定性）的度量指标。假如事件A的全概率划分是（A1,A2,...,An），每部分发生的概率是(p1,p2,...,pn)，那信息熵定义为： 通常以2为底数，所以信息熵的单位是bit。 1.2 决策树 决策树是以实例为基础的归纳学习算法。它从一组无次序、无规则的元组中推理出决策树表示形式的分类规则。它