- 博客(5)
- 收藏
- 关注
原创 『 机器学习笔记』最优化方法
最优化方法是研究在给定约束之下如何寻求某些因素(的量),以使某一(或某些)指标达到最优的一些学科的总称。 机器学习的问题大多可以建模成一种最优化模型求解,常见最优化方法有梯度下降法,牛顿法和拟牛顿法,启发式优化算法(PSO, ABC等)。梯度下降法梯度下降法是一种迭代算法,选取适当的初值x(0)x^{(0)},不断以负梯度方向更新x的值,达到减少函数f(x)f(x)值的目的。假设f(x)f(x)具
2017-03-31 11:32:37 1780
原创 『机器学习笔记 』GBDT原理-Gradient Boosting Decision Tree
1. 背景1.1 Gradient Boosting1.2 提升树-boosting tree回归问题提升树算法2 Gradient Boosting Decision Tree2.1 函数空间的数值优化2.2 算法Shrinkage总结附录参考资料相似算法:1. 背景决策树是一种基本的分类与回归方法。决策树模型具有分类速度快,模型...
2017-03-24 17:01:17 69252 6
原创 『数据挖掘十大算法 』笔记三:K-means
数据挖掘Top 10算法K-MEANS算法求中心点算法Minkowski Distance公式Euclidean Distance公式CityBlock Distance公式向量表示法K-Means主要缺陷K-Means算法k-means算法评价标准附录算法分类生成方法和判别方法参考资料数据挖掘Top 10算法C4.5, k-Means, SVM, Apriori, EM,
2017-03-22 12:29:39 2723
原创 『数据挖掘十大算法 』笔记二:SVM-支持向量机
数据挖掘Top 10算法支持向量机线性可分支持向量机函数间隔和集合间隔间隔最大化间隔最大化算法支持向量和间隔边界学习的对偶算法线性可分支持向量机学习算法线性支持向量机和软间隔最大化线性支持向量机学习算法非线性支持向量机和核函数核技巧非线性分类问题核函数定义核技巧在支持向量机中的应用正定核常用核函数非线性支持向量机学习算法 附录算法分类参考资料数据挖掘To
2017-03-17 17:10:33 5228
原创 『数据挖掘十大算法 』笔记一:决策树
数据挖掘Top 10算法决策树模型与学习特征选择信息增益熵entropy条件熵信息增益信息增益算法信息增益比决策树生成ID3算法C45算法决策树剪枝先验设定控制复杂度损失函数剪枝算法CART算法CART生成最小二乘回归树生成算法分类树的生成Gini指数CART生成算法CART剪枝CART剪枝算法附录算法分类参考资料数据挖掘Top 10算法C4.5,
2017-03-15 18:00:01 7594 3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人