![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
劳累爱打篮球
还没有开始,才没有终止,难忘未必永志
展开
-
决策树(ID3)——用信息增益来划分
对于刚刚开始学习决策树的同学们来说,可能对建立一个决策树有一些疑惑,这篇文章主要是简略的介绍用信息增益来建立一个决策树的简单过程。文章可能会有一些错误,欢迎大家讨论学习。1.信息熵在了解信息增益前,我们必须要清楚信息熵。信息熵的公式 yes 50 no 60 这个分类的信息熵:Info(D)=2.信息增益...原创 2021-05-23 19:45:11 · 6669 阅读 · 1 评论 -
基于规则的分类器——FOIL信息增益——实际操作
这是一篇关于机器学习中基于规则分类器的文章,主要讲如何实际的操作这个FOIL信息增益来得出一个规则集。有几个问题: 1.在第执行外循环的时候,我写的是将原始表格P类中满足规则的元组去除。实际上是要将原始表格中P类和N类中满足规 则的元组去除,为什么没有写N类呢?因为这个题目中N类很特殊,N类中所有的元组基本上都符合规则。 2.在计算FOIL 的值的时候...原创 2021-05-11 22:02:53 · 1921 阅读 · 0 评论