机器学习
文章平均质量分 88
brilliant_o
这个作者很懒,什么都没留下…
展开
-
Bagging 和 Boosting - GBDT原理和面试问题整理
整理了一些集成学习以及GBDT的原理和问题,未来将继续补充 文章目录BaggingBoostingAdaboostGBDTGBDT为什么可以用负梯度近似残差?GBDT如何选择特征?GBDT如何用于分类?GBDT与随机森林区别和联系 Bagging Bagging (Bootstrap aggregating): Leverages unstable base learners that are weak because of overfitting 主要关注降低方差,在不剪枝的决策树等易受样原创 2021-01-03 17:45:34 · 256 阅读 · 0 评论 -
LR与SVM复习推导 面试常考题整理
复习了一下logistic和SVM,整理了一些推导过程 Logistic回归 Logistic回归:广义线性模型的一种,用于0/1分类任务。由于特征的线性组合的取值范围是负无穷到正无穷,因此使用sigmoid函数将其映射到(0,1)上,映射后的值被认为是y=1的概率。 SVM SVM:特征空间上的间隔最大的线性分类器,学习策略是使间隔最大化,可以转化为一个凸二次规划问题求解 SVM的原理是什么? SVM是一种二分类模型,在特征空间中寻找间隔最大化的分离超平面的线性原创 2021-01-02 17:16:52 · 281 阅读 · 0 评论