决策树学习的重点是根据训练数据集S,构造决策树。
决策树构造的难点在于将各分类属性放置于决策树中何种位置,基本的原则是具有最大信息增益的属性节点放置于越靠近树根的位置(ID3算法)。学习决策树的一个基本点在于计算信息增益。具体计算方法详见《机器学习》P40 3.4.1《哪个属性是最佳的分类属性》中的例子。
写的很好的一个博客算法杂货铺——分类算法之决策树(Decision tree)
决策树学习的重点是根据训练数据集S,构造决策树。
决策树构造的难点在于将各分类属性放置于决策树中何种位置,基本的原则是具有最大信息增益的属性节点放置于越靠近树根的位置(ID3算法)。学习决策树的一个基本点在于计算信息增益。具体计算方法详见《机器学习》P40 3.4.1《哪个属性是最佳的分类属性》中的例子。
写的很好的一个博客算法杂货铺——分类算法之决策树(Decision tree)