十大算法
word_mhg
这个作者很懒,什么都没留下…
展开
-
经典的决策树算法
回归与分类 我们在机器学习中一直会遇到两种问题,一种是回归问题,一种是分类问题。我们从字面上理解,很容易知道分类问题其实是将我们现有的数据分成若干类,然后对于新的数据,我们根据所分得类而进行划分;而回归问题是将现有数据拟合成一条函数,根据所拟合的函数来预测新的数据。 这两者的区别就在于输出变量的类型。回归是定量输出,或者说是预测连续变量;分类问题书定量输出,预测离散变量。 如何区分分类与回...原创 2019-05-21 20:40:53 · 808 阅读 · 0 评论 -
GBDT(Gradient Boosting Decision Tree)基本原理
GBDT(Gradient Boosting Decision Tree)基本原理 首先,GBDT使用的决策树是CART回归树,无论是处理回归问题还是二分类以及多分类,GBDT使用的决策树通通都是都是CART回归树。为什么不用CART分类树呢?因为GBDT每次迭代要拟合的是梯度值,是连续值所以要用回归树。 对于回归树算法来说最重要的是寻找最佳的划分点,那么回归树中的可划分点包含了所有特征的所...原创 2019-05-28 14:57:27 · 247 阅读 · 0 评论 -
XGBoost
XGBoost基本原理 我重点比较一下XGBoost与GBDT两种算法的不同: XGBoost的目标函数与GBDT存在泰勒展开项的不同: 最基本的差距就在于XGBoost比GBDT多了两项泰勒展开式。具体这个泰勒展开式是怎么得到的,是对于什么展开的呢?我们看: XGBoost算法可以看成是由K棵树组成的加法模型: XGBoost加法模型 其中F为所有树组成的函数空间(这里...转载 2019-05-28 15:18:27 · 195 阅读 · 0 评论 -
EM算法
https://blog.csdn.net/XiaoYi_Eric/article/details/80274938 https://www.cnblogs.com/huangyc/p/10123780.html原创 2019-08-21 15:05:05 · 133 阅读 · 0 评论 -
SVM算法
https://blog.csdn.net/blackyuanc/article/details/67640844 https://www.cnblogs.com/huangyc/p/9979178.html原创 2019-08-21 15:08:08 · 179 阅读 · 0 评论