![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
统计学习方法_learn
摇摇晃摇晃
这个作者很懒,什么都没留下…
展开
-
四、朴素贝叶斯
知识点贝叶斯公式:原创 2019-09-21 10:51:21 · 125 阅读 · 0 评论 -
五、决策树
文章目录决策树思想信息熵、信息增益熵信息熵信息增益-ID3信息增益率-C4.5基尼值与基尼系数-常用基尼值Gini(D)基尼系数-CART剪枝API和参数决策树思想对特征进行节点划分,难点在于先选哪个特征,就引出信息熵的概念,也就是类似于权重,用于划分数据集信息熵、信息增益熵描述系统的无序程度,系统越有序,熵越低信息熵这个式子的优点:当概率平均的时候熵最大,以两种情...原创 2019-09-30 09:05:15 · 161 阅读 · 0 评论 -
六、逻辑回归
公式推导统计学习方法一书中,作者在开始就引出了sigmoid函数,这里从事件发生的几率(odds)开始推导,我觉得这样更加一目了然设事件发生的概率为ppp:几率=p1−p几率 = \frac{p}{1-p}几率=1−pp对数几率:logit(p=1∣x)=logp1−plogit(p=1|x)=log\frac{p}{1-p}logit(p=1∣x)=log1−pp而我们最终训练...原创 2019-10-07 12:48:22 · 150 阅读 · 0 评论