- 博客(6)
- 收藏
- 关注
原创 Boosting 提升思想汇总(Adaboost,Boost Tree,Gradient Boost Tree,XGBoost)
关于提升思想,核心内容是将若干个弱可学习分类器线性组合成为一个强可学习分类器。其中,Adaboost 属于一种前向学习的二分类学习方法,且基本分类器可以不基于树,可用的范围更广。至于Boost Tree, Gradient Boost Tree 和 XGBoost 中基本的分类器是树结构的,包括二叉分类树和二叉回归树。1、Adaboost2、Boost Tree3、Gr...
2019-12-19 12:21:26 686
原创 机器学习(台湾李宏毅版)学习笔记 Classification AND Logistic Regression
Logistic Regression 与 Linear Regression 最大的区别就是它预测的真实值是离散的,Logistic Regression 是用来进行分类的预测的(将不同的类别标记不同的数字)。Linear Regression 的步骤是:1、构造模型(如 )2、使用training data梯度下降(参考 机器学习(台湾李宏毅版)学习笔记 gradient desc...
2018-06-03 22:58:44 515
原创 机器学习(台湾李宏毅版)学习笔记 gradient descent
梯度下降属于线性回归的一个重要的部分。但是这种方法具有局限性,在一般的情况下,并不能保证找到的局部最小就是全局最小。所以这种方法适用于目标函数是凸函数的情况(local minimum == global minimum)。即使是在凸函数中也不能保证最后找到的点就是最小值,这取决于算法的中止条件(即变化率小于一个定值)和所取的参数λ。所以算法很可能在找到一个相对平滑而并非最小值的地方以后就终止。在...
2018-05-28 22:38:53 454
原创 机器学习(台湾李宏毅版) 学习笔记 Regression——Bias and Variance
Regression:在机器学习中,只要参数(例如 Y=b+wx 中的b 和 w)是一次项,那么无论变量x的次数多少,都称为Regression。在线性回归中,先确定好参数的维度
2018-05-25 11:13:28 403
原创 Kth largest element in a stream (Way of Search Tree)
Kth largest element in a streamDesign a class to find the kth largest element in a stream. Note that it is the kth largest element in the sorted order, not the kth distinct element.Your KthLargest cla...
2018-05-10 18:20:30 658 3
原创 机器学习:西瓜问题之浅谈NFL定理
在谈论NFL定理之前,有几点概念理解需要强调: 样本空间:并非所有样本组成的空间,而是属性张成的空间,也就是对于已经定义好的属性,样本空间就覆盖了全部的可能。故西瓜问题的样本空间就是书中所讲的4*4*4+1=65种。那么,样本空间就真的覆盖了现实生活中所有的情况吗?显然不是,最真实的情况只能不断逼近,而无法准确地全部预测。例如,书中西瓜有色泽、根蒂、敲声三个属性,那么比如花纹这...
2018-04-02 22:33:51 2126
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人