![](https://img-blog.csdnimg.cn/2021012511344431.jpg?x-oss-process=image/resize,m_fixed,h_224,w_224)
统计学习方法
文章平均质量分 89
《统计学习方法第2版》分为监督学习和无监督学习两篇,包括感知机、k 近邻法、朴素贝叶斯法、决策树、逻辑斯谛回归与最大熵模型、支持向量机、提升方法、EM 算法、隐马尔可夫模型和条件随机场,以及聚类方法、奇异值分解、主成分分析、马尔可夫链蒙特卡罗法和 PageRank 算法等。
gkm0120
路漫漫其修远兮,吾将上下而求索!
展开
-
【统计学习方法】第11章 条件随机场
条件随机场(conditional random field,CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型,其特点是假设输出随机变量构成马尔可夫随机场。原创 2021-02-03 17:48:58 · 150 阅读 · 0 评论 -
【统计学习方法】第10章 隐马尔可夫模型
隐马尔可夫模型(hidden Markov model,HMM)是可用于标注问题的统计学习模型,描述由隐藏的马尔可夫链随机生成观测序列的过程,属于生成模型。原创 2021-02-02 23:07:15 · 222 阅读 · 0 评论 -
【统计学习方法】第9章 EM算法及其推广
EM算法(expectation maximization algorithm)是一种迭代算法,EM算法的每次迭代由两步组成:E步,求期望(expectation);M步,求极大(maximization)。所以这一算法称为期望极大算法(expectation maximization algorithm),简称EM算法.原创 2021-02-01 16:38:40 · 183 阅读 · 2 评论 -
【统计学习方法】第8章 提升方法
提升(boosting)方法是一种常用的统计学习方法,应用广泛且有效。在分类问题中,它通过改变训练样本的权重,学习多个分类器,并将这些分类器进行线性组合,提高分类的性能。原创 2021-01-31 10:47:36 · 133 阅读 · 0 评论 -
【统计学习方法】第7章 支持向量机
支持向量机(support vector machines,SVM)是一种二类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器,间隔最大使它有别于感知机;支持向量机还包括核技巧,这使它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化,可形式化为一个求解凸二次规划(convex quadratic programming)的问题,也等价于正则化的合页损失函数的最小化问题。支持向量机的学习算法是求解凸二次规划的最优化算法。原创 2021-01-30 10:26:27 · 196 阅读 · 1 评论 -
【统计学习方法】第6章 逻辑斯谛回归
逻辑斯谛回归(logistic regression)是统计学习中的经典分类方法.最大熵是概率模型学习的一个准则,将其推广到分类问题得到最大熵模型(maximum entropy model)。逻辑斯谛回归模型与最大熵模型都属于对数线性模型。原创 2021-01-29 10:20:28 · 135 阅读 · 0 评论 -
【统计学习方法】第5章 决策树
决策树(decision tree)是一种基本的分类与回归方法。决策树模型呈树形结构,在分类问题中,表示基于特征对实例进行分类的过程。原创 2021-01-28 11:07:10 · 238 阅读 · 0 评论 -
【统计学习方法】第4章 朴素贝叶斯法
朴素贝叶斯(naive Bayes)法是基于贝叶斯定理与特征条件独立假设的分类方法.对于给定的训练数据集,首先基于特征条件独立假设学习输入/输出的联合概率分布;然后基于此模型,对给定的输入x,利用贝叶斯定理求出后验概率最大的输出y.原创 2021-01-27 15:46:34 · 198 阅读 · 0 评论 -
【统计学习方法】第3章 k近邻法
k近邻法(k-nearest neighbor,k-NN)是一种基本分类与回归方法。k近邻法的输入为实例的特征向量,对应于特征空间的点;输出为实例的类别,可以取多类。k近邻法假设给定一个训练数据集,其中的实例类别已定.分类时,对新的实例,根据其k个最近邻的训练实例的类别,通过多数表决等方式进行预测。原创 2021-01-26 16:20:06 · 453 阅读 · 0 评论 -
【统计学习方法】第2章 感知机
感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型。原创 2021-01-25 11:54:59 · 168 阅读 · 0 评论 -
【统计学习方法】第1章 统计学习方法概论
统计学习(statistical learning)是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。统计学习也称为统计机器学习(statistical machine learning)。原创 2021-01-24 23:09:18 · 360 阅读 · 0 评论