机器学习
chiweitree
码农
展开
-
决策树中熵和信息增益的计算,构造决策树 ID3
信息熵很亮的是在你知道一个事件的结果后,平均会带给你多大的信息量,当事件的不确定性越大,那么要搞清它所需要的信息量也就越大,也就是信息熵越大,是无序性,不确定性的度量指标。信息熵的计算:-p[i]logp[i],底数为2public static double calcEntropy(int p[]) { double entropy = 0; // 用来计算总的样本数量,p[原创 2014-08-25 14:33:23 · 4978 阅读 · 0 评论 -
机器学习概念
机器学习就是把无序的数据转换成有用的信息。机器学习的主要任务就是分类,通过通过训练数据训练算法,最终可以将实际的数据分到合适的类别中监督学习算法:预测目标变量的值k-means算法,线性回归朴素贝叶斯算法,局部加权线性回归支持向量机,ridge回归决策树,lasso最小回归系数估计无监督学习算法:不需要预测目标变量的值k-均值,最大期望算法DBS原创 2014-08-22 14:01:28 · 1066 阅读 · 0 评论 -
朴素贝叶斯分类
outlooktemperaturehumiditywindyplay yesno yesno yesno yesnoyesnosunny23hot22high34原创 2014-08-26 09:03:51 · 1107 阅读 · 0 评论