机器学习笔记
文章平均质量分 68
xiaoxy97
这个作者很懒,什么都没留下…
展开
-
机器学习笔记(一):回归算法
目标函数和损失函数是一样的,概念不一样。目标函数是模型优化过程中方向考虑的函数,损失函数是构建好的模型的损失值:预测值和实际值之间的差距的体现函数。 目标函数 批量梯度下降BGD 随机梯度下降SGD 小批量梯度下降法MBGD ...原创 2018-09-25 08:29:00 · 150 阅读 · 0 评论 -
机器学习笔记(二):KNN
待续……原创 2018-09-25 08:30:11 · 132 阅读 · 0 评论 -
机器学习笔记(三):决策树
ID3、C4.5、CART分类树算法总结 决策树剪枝: ①前置剪枝:API自带前置剪枝,实践证明这种策略无法得到比较好的结果 ②后置剪枝: 分类树和回归树 决策树可视化 ...原创 2018-09-25 08:31:10 · 176 阅读 · 0 评论 -
机器学习笔记(四):集成学习
待续……原创 2018-09-25 08:31:42 · 195 阅读 · 0 评论 -
机器学习笔记(五):XGBoost
待续……原创 2018-09-25 08:32:26 · 206 阅读 · 0 评论 -
机器学习笔记(六):聚类算法
一、聚类算法总括 1.1 定义 对大量未标注的数据集按数据内部存在的数据特征划分为多个不同类别,使类别内数据比较相似,类别间数据相似度比较小。 1.2 和分类算法区别 分类算法:有监督学习 聚类算法:无监督学习 1.3 样本相似度度量 1.3.1 闵可夫斯基距离(Minkowski) a. p=1:曼哈顿距离 b. p=2:欧氏距离(常用) c. p为无穷大:切比雪...原创 2018-10-03 20:46:51 · 1286 阅读 · 0 评论 -
机器学习笔记(七):SVM
一、前导 1、最优化问题 最优化问题一般是指对于某一个函数而言,求解在其指定作用域上的全局最小值问题,一般分为以下三种情况(备注:以下几种方式求出来的解都有可能是局部极小值,只有当函数是凸函数的时候,才可以得到全局最小值): ①无约束问题:求解方式一般求解方式梯度下降法、牛顿法、坐标轴下降法等; ②等式约束条件:求解方式一般为拉格朗日乘子法 拉格朗日乘子法求解 ③不等式约...原创 2018-10-11 22:41:46 · 1879 阅读 · 0 评论