![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
我没吐但是我秃了
这个作者很懒,什么都没留下…
展开
-
分类模型评估指标
目录准确率的局限性精确率(precision)和召回率(recall)PR曲线AUC参考准确率的局限性准确率=正类正类+反类准确率=\frac{正类}{正类+反类}准确率=正类+反类正类准确率在一些特定的应用场景会有问题,比如在分类不均衡的分类中。比如在一个样本极不均衡的例子,想预测人群中患癌症的模型中,在训练样本时,1千个样本患癌症的人数为个位数,不患癌症的人数为990多人,在做其他操作...原创 2019-12-18 11:37:25 · 308 阅读 · 0 评论 -
正则项L1与L2的区别
定义L0范数指向量中非零元素的个数L1范数:向量中每个元素绝对值的和 ∣∣x∣∣1=∑i=1N∣xi∣||x||_1=\sum_{i=1}^{N}{|x_i|}∣∣x∣∣1=∑i=1N∣xi∣L2范数:向量元素绝对值的平方和再开平方∣∣x∣∣2=∑i=1Nxi2||x||_2=\sqrt{\sum_{i=1}^{N}{x_i^2}}∣∣x∣∣2=∑i=1Nxi2为什么需要正则...原创 2019-10-31 11:30:38 · 282 阅读 · 0 评论 -
决策树与随机森林
决策树模型简介决策树算法在机器学习中算是很经典的一个算法系列了。它既可以作为分类算法,也可以作为回归算法,同时也特别适合集成学习比如随机森林。决策树的学习通常包括3个步骤:特征选择、决策树的生成和决策树的修剪。决策树算法:ID3(利用信息增益对特征做选择),C4.5(利用信息增益率对特征做选择),CART(CART生成与CART剪枝)ID3算法ID3算法的特征选择与信息增益特征选择在于...原创 2019-10-17 16:38:30 · 320 阅读 · 0 评论 -
Adaboost总结
Adaboost总结回顾boosting算法的基本原理Adaboost算法的基本思路AdaBoost分类问题的损失函数优化(推导过程)AdaBoost二元分类问题算法流程Adaboost小结回顾boosting算法的基本原理 从图中可以看出,Boosting算法的工作机制是首先从训练集用初始权重训练出一个弱学习器1,根据弱学习的学习误差率表现来更新训练样本的权重,使得之前弱学习器1学...转载 2019-10-14 12:14:53 · 166 阅读 · 0 评论