- 博客(3)
- 资源 (2)
- 收藏
- 关注
RSS订阅转载 gradient boosting梯度提升决策树
声明： 1. 转自《统计学习方法》gradient boosting提升树利用加法模型与前向分步算法实现学习的优化过程。当损失函数是平方损失和指数损失函数时，每一步的优化都很简答。但对于一般损失函数而言，往往每一步的优化并不那么容易。针对这一问题，Freidman提出了gradient boosting算法。这是利用最速下降法，其关键是利用损失函数的扶梯度在当前模型的值：−[∂L(yi,...
2018-04-07 18:17:54
899
翻译 核函数
声明： 1. 转载自《统计学习方法》核函数定义设χχ\chi是输入空间（欧式空间RnRnR^n的子集或离散集合，又设HHH为特征空间（希尔伯特空间)，如果存在一个从χχ\chi到HHH的映射ϕ(x):χ→Hϕ(x):χ→H\phi (x): \chi \rightarrow H使得对所有x,z∈χx,z∈χx, z \in \chi，函数K(x,z)=ϕ(x)⋅ϕ(z)K(x,z...
2018-04-05 22:26:18
691
原创 无从下手？一文了解经典机器学习算法
声明：参考——入门 | 机器学习新手必看10大算法本文中的github链接指向我的github机器学习实战代码常见机器学习算法的使用情况回归多元线性回归y=w⋅x+by=w⋅x+by = w\cdot x + b其中，xxx为输入特征特征向量。它的损失函数是基于最小二乘法的MSE，优化方法是梯度下降法。优点：训练速度快，可解释性强。缺点：对异常样本...
2018-04-03 17:30:39
524
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人