![](https://img-blog.csdnimg.cn/20200917220009887.jpg?x-oss-process=image/resize,m_fixed,h_224,w_224)
机器学习相关
记录机器学习课程的相关知识
塞外花岗岩
哥们充满希望与爱,每天三碗大米饭
展开
-
2019机器学习试题及个人思路
仅供参考,如有错误请指正1. 信息增益的定义,信息增益的好处?决策树决策面是否为线性,举例说明。信息增益是集合D的经验熵H(D)与特征A给定条件下D的经验条件熵H(D|A)之差:g(D,A)=H(D)−H(D∣A)g(D,A)=H(D)-H(D|A)g(D,A)=H(D)−H(D∣A)一般也将熵与条件熵的差值叫做互信息,决策树学习中的信息增益等价于训练数据集中的类和特征的互信息。互信息表示由于特征A使数据集D分类的不确定性减少的程度,因此互信息高的特征有更强的分类能力。依此决策能够有很好的分类.原创 2020-11-21 00:43:56 · 513 阅读 · 5 评论 -
信息熵&互信息相关推导
目录前言信息熵互信息互信息的等式关系互信息的性质前言信息熵互信息互信息的等式关系互信息的性质原创 2020-09-19 00:53:24 · 3012 阅读 · 2 评论