- 博客(6)
- 收藏
- 关注
RSS订阅原创 机器学习算法学习笔记：支持向量机
文章目录一、理论篇1、间隔与支持向量二、实战篇一、理论篇1、间隔与支持向量【例子】假如在下面的样本空间中，我们想寻找一个超平面，将不同类别的样本分开。将训练样本分开的超平面可能有很多，但是哪一个好呢?应选择正中间红色的超平面，因为它容忍性好，鲁棒性高，泛化能力最强。超平面方程：wTx+b=0w^Tx+b=0wTx+b=0。样本空间中任意点xxx到超平面wTx+b=0w^Tx+b=0wTx+b=0的距离为r=∣wTx+b∣∣∣w∣∣r=\cfrac{|w^Tx+b|}{||w||}r=∣∣w∣
2020-11-24 12:59:45
354
原创 机器学习算法学习笔记：朴素贝叶斯
文章目录一、理论篇1、概述2、贝叶斯公式2、频率学派与贝叶斯派3、极大似然估计与最大后验概率估计二、实战篇一、理论篇1、概述2、贝叶斯公式2、频率学派与贝叶斯派在说极大似然估计（MLE）与最大后验概率估计（MAP）之前，不得不说对于概率看法不同的两大派别频率学派与贝叶斯派。他们看待世界的视角不同，导致他们对于产生数据的模型参数的理解也不同。① 频率学派：他们认为世界是确定的。他们直接为事件本身建模，也就是说事件在多次重复实验中趋于一个稳定的值p，那么这个值就是该事件的概率。他们认为模型参数是个
2020-11-24 11:46:01
439
原创 机器学习算法学习笔记：决策树
文章目录一、理论篇1、概述2、基本流程3、划分选择3.1、信息熵和信息增益3.2、增益率3.3、基尼指数4、剪枝处理二、实战篇一、理论篇1、概述决策树是一种常见的分类模型，在金融分控、医疗辅助诊断等诸多行业具有较为广泛的应用。决策树的核心思想是基于树结构对数据进行划分，这种思想是人类处理问题时的本能方法。例如在婚恋市场中，女方通常会先看男方是否有房产，如果有房产再看是否有车产，如果有车产再看是否有稳定工作……最后得出是否要深入了解的判断。决策树的主要优点：(1)具有很好的解释性，模型可以生成可以理
2020-11-24 11:44:59
562
原创 机器学习算法学习笔记：逻辑回归
文章目录一、理论篇1、概述2、逻辑回归模型3、逻辑回归的代价函数4、梯度下降法二、实战篇一、理论篇1、概述逻辑回归（Logistic regression，简称LR）虽然其中带有“回归”两个字，但逻辑回归其实是一个分类模型，并且广泛应用于各个领域之中，比如垃圾邮件分类、预测肿瘤是良性还是恶性、预测某人的信用是否良好等。而对于逻辑回归而言，最为突出的两点就是其模型简单和模型的可解释性强。逻辑回归模型的优劣势：优点：实现简单，易于理解和实现；计算代价不高，速度很快，存储资源低；缺点：容易欠拟合，分
2020-11-24 11:44:05
342
原创 机器学习算法学习笔记：线性回归
文章目录一、理论篇1、回归分析2、一元线性回归3、代价函数4、梯度下降法4、多元线性回归6、标准方程法一、理论篇1、回归分析线性回归是利用数理统计中的回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，是机器学习最基础的算法之一。• 回归模型就是通过建立方程模拟两个或者多个变量之间的某种关联。• 被预测的变量叫做因变量（输出）。• 被用来进行预测的变量叫做自变量（输入）。• 一元回归模型包含一个自变量和一个因变量（两个变量的关系用一条直线来拟合）hθ(x)=θ0+θ1xh
2020-11-24 11:41:35
433
原创 机器学习算法学习笔记：集成学习
文章目录一、理论篇1、概述2、Majority Voting3、Bagging4、Random Forest5、Adaboost6、Stacking二、实战篇一、理论篇1、概述生活中，当做重要决定时，通常都会考虑吸取多个人的意见而不只是一个人的意见。集成学习也是如此。集成学习就是组合多个单一的、独立的学习器，最后可以得到一个比单一学习器泛化性能更好的学习器。正所谓“三个臭皮匠赛过诸葛亮”的道理，在机器学习数据挖掘的工程项目中，使用单一决策的弱分类器显然不是一个明智的选择，因为各种分类器在设计的时候都
2020-11-19 17:01:25
999
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人