weixin_38246275的博客

原创 决策树（一）

决策树是最经典的机器学习算法之一，可以处理类别型数据和连续型数据。学习目标（一）：信息熵、信息增益及信息增益率的概念与理解，以及决策树的分类原则1、信息熵信息其实就是数据，或者说是含有了含有一定知识的数据（个人理解）。信息我们常常说，但其本是抽象的，这么抽象的东西摆在科学家面前的首要任务就是就是来量化，和表示它。早在1948年，数学家香农就提出了信息熵（Entropy）的概念（向这位...