机器学习
文章平均质量分 85
张小猪的家
这个作者很懒,什么都没留下…
展开
-
【机器学习】HMM模型
文章目录HMM模型1.⻢尔科夫链1.1 简介2.2 经典举例2.HMM模型的三个基本问题HMM模型1.⻢尔科夫链1.1 简介⻢尔科夫链即为状态空间中从⼀个状态到另⼀个状态转换的随机过程。该过程要求具备“⽆记忆”的性质:下⼀状态的概率分布只能由当前状态决定,在时间序列中它前⾯的事件均与之⽆关。这种特定类型的“⽆记忆性”称作⻢尔可夫性质。⻢尔科夫链作为实际过程的统计模型具有许多应⽤。在⻢尔可夫链的每⼀步,系统根据概率分布,可以从⼀个状态变到另⼀个状态,也可以保持当前状态。原创 2021-08-14 22:44:03 · 234 阅读 · 0 评论 -
【机器学习】EM算法
文章目录EM算法1.初识EM算法EM算法1.初识EM算法EM算法也称期望最⼤化(Expectation-Maximum,简称EM)算法。它是⼀个基础算法,是很多机器学习领域算法的基础,⽐如隐式⻢尔科夫算法(HMM)等等。EM算法是⼀种迭代优化策略,由于它的计算⽅法中每⼀次迭代都分两步,其中⼀个为期望步(E步),另⼀个为极⼤步(M步),所以算法被称为EM算法(Expectation-Maximization Algorithm)EM算法受到缺失思想影响,最初是为了解决数据缺失情况下的原创 2021-08-14 22:32:11 · 97 阅读 · 0 评论 -
【机器学习】⽀持向量机
文章目录⽀持向量机1.SVM算法1.1 定义2.2 超平⾯最⼤间隔介绍2.3 硬间隔和软间隔2.3.1 硬间隔分类2.3.2 软间隔分类2.SVM总结2.1 SVM基本综述2.2 SVM优缺点:⽀持向量机1.SVM算法1.1 定义SVM:SVM全称是supported vector machine(⽀持向量机),即寻找到⼀个超平⾯使样本分成两类,并且间隔最⼤。SVM能够执⾏线性或⾮线性分类、回归,甚⾄是异常值检测任务。它是机器学习领域最受欢迎的模型之⼀。SVM特别 适⽤于中⼩型复杂数据集的分类.原创 2021-08-14 22:24:13 · 236 阅读 · 0 评论 -
【机器学习】朴素⻉叶斯算法
文章目录朴素⻉叶斯算法1.朴素⻉叶斯优缺点2.朴素⻉叶斯内容汇总2.1 NB的原理2.2 朴素⻉叶斯朴素在哪⾥?2.3 为什么引⼊条件独⽴性假设?2.4 在估计条件概率P(X∣Y)时出现概率为0的情况怎么办?2.5 为什么属性独⽴性假设在实际情况中很难成⽴,但朴素⻉叶斯仍能取得较好的效果?2.6 朴素⻉叶斯与LR的区别?朴素⻉叶斯算法1.朴素⻉叶斯优缺点优点:朴素⻉叶斯模型发源于古典数学理论,有稳定的分类效率对缺失数据不太敏感,算法也⽐较简单,常⽤于⽂本分类分类准确度⾼,速度快缺点:由.原创 2021-08-14 22:04:14 · 403 阅读 · 1 评论 -
【机器学习】聚类算法
文章目录聚类算法1.聚类算法的概念2.聚类算法实现流程3.模型评估3.1 误差平⽅和(SSE \The sum of squares due to error)3.2 “肘”⽅法 (Elbow method) — K值确定3.3 轮廓系数法(Silhouette Coefficient)3.4 CH系数(Calinski-Harabasz Index)4.k-means算法⼩结5. 特征降维5.1 特征选择5.2 主成分分析聚类算法1.聚类算法的概念⼀种典型的⽆监督学习算法,主要⽤于将相似的样本⾃动原创 2021-08-13 20:25:58 · 590 阅读 · 0 评论 -
【机器学习】集成学习
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录集成学习1.集成学习算法简介1.1 什么是集成学习1.2 机器学习的两个核⼼任务1.3 集成学习中boosting和Bagging2.Bagging和随机森林2.1 Bagging集成原理2.2 随机森林构造过程2.3 包外估计 (Out-of-Bag Estimate)3.Boosting3.1 什么是boosting3.2 实现过程3.3 bagging集成与boosting集成的区别:3.4 AdaBoost介绍4.GBDT介原创 2021-08-13 15:38:32 · 93 阅读 · 0 评论 -
【机器学习】决策树算法
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录决策树算法1.决策树算法简介2.决策树分类原理2.1 熵2.2 决策树的划分依据⼀----信息增益2.3 决策树的划分依据⼆----信息增益率2.4 决策树的划分依据三 ----基尼值和基尼指数2.5 常⻅决策树的启发函数⽐较3.cart剪枝4.回归决策树决策树算法1.决策树算法简介决策树:是⼀种树形结构,本质是⼀颗由多个判断节点组成的树其中每个内部节点表示⼀个属性上的判断每个分⽀代表⼀个判断结果的输出最后每个叶节原创 2021-08-13 11:11:21 · 147 阅读 · 0 评论 -
【机器学习】逻辑回归
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录逻辑回归1.逻辑回归介绍1.1 输⼊1.2 激活函数2.分类评估⽅法逻辑回归1.逻辑回归介绍逻辑回归(Logistic Regression)是机器学习中的⼀种分类模型,逻辑回归是⼀种分类算法,虽然名字中带有回归。1.1 输⼊逻辑回归的输⼊就是⼀个线性回归的结果。1.2 激活函数sigmoid函数判断标准回归的结果输⼊到sigmoid函数当中输出结果:[0, 1]区间中的⼀个概率值,默认为0.5为原创 2021-08-12 22:34:33 · 151 阅读 · 0 评论 -
【机器学习】线性回归
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录线性回归1.线性回归简介2.损失函数3.优化算法3.1 正规⽅程3.2 梯度下降3.3 梯度下降和正规⽅程的对⽐3.4梯度下降法⼤家族4.⽋拟合和过拟合4.1 原因以及解决办法4.2 正则化线性回归1.线性回归简介线性回归(Linear regression)是利⽤回归⽅程(函数)对⼀个或多个⾃变量(特征值)和因变量(⽬标值)之间关系进⾏建模的⼀种分析⽅式。线性回归当中主要有两种模型,⼀种是线性关系,另⼀种是⾮线性关系。原创 2021-08-12 22:18:06 · 125 阅读 · 0 评论 -
【机器学习】K-近邻算法
文章目录K-近邻算法1.K-近邻算法简介1.1 定义1.2 KNN算法流程2.K-近邻算法优缺点汇总3.kd树3.1 kd树的构建过程3.2 kd树的搜索过程4.交叉验证5.⽹格搜索K-近邻算法1.K-近邻算法简介1.1 定义如果⼀个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的⼤多数属于某⼀个类别,则该样本也属于这个类别。1.2 KNN算法流程1)计算已知类别数据集中的点与当前点之间的距离2)按距离递增次序排序3)选取与当前点距离最⼩的k个点4)统计前k个点所在的类别出现原创 2021-08-12 21:39:17 · 872 阅读 · 2 评论