![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
chiweitree
码农
展开
-
决策树中熵和信息增益的计算,构造决策树 ID3
信息熵很亮的是在你知道一个事件的结果后,平均会带给你多大的信息量,当事件的不确定性越大,那么要搞清它所需要的信息量也就越大,也就是信息熵越大,是无序性,不确定性的度量指标。 信息熵的计算: -p[i]logp[i],底数为2 public static double calcEntropy(int p[]) { double entropy = 0; // 用来计算总的样本数量,p[原创 2014-08-25 14:33:23 · 4963 阅读 · 0 评论 -
机器学习概念
机器学习就是把无序的数据转换成有用的信息。 机器学习的主要任务就是分类,通过通过训练数据训练算法,最终可以将实际的数据分到合适的类别中 监督学习算法:预测目标变量的值 k-means算法,线性回归 朴素贝叶斯算法,局部加权线性回归 支持向量机,ridge回归 决策树,lasso最小回归系数估计 无监督学习算法:不需要预测目标变量的值 k-均值,最大期望算法 DBS原创 2014-08-22 14:01:28 · 1056 阅读 · 0 评论 -
朴素贝叶斯分类
outlook temperature humidity windy play yes no yes no yes no yes no yes no sunny 2 3 hot 2 2 high 3 4原创 2014-08-26 09:03:51 · 1100 阅读 · 0 评论