Statistical learning methods
文章平均质量分 94
fgh431
非淡泊无以明志
展开
-
1统计学方法概论
文章目录1.7 生成模型和判别模型监督学习方法又分为generative approach和discriminative approach生成方法由数据学习联合概率分布P(X,Y)P(X,Y)P(X,Y),判别方法由数据直接学习决策函数f(X)f(X)f(X)或者条件概率分布P(Y∣X)P(Y|X)P(Y∣X)作为预测的模型,即判别模型.监督学习中,生成和判别各有优缺点,适合于不同条件下的学习问题...原创 2019-10-24 14:11:31 · 436 阅读 · 0 评论 -
2 感知机
文章目录2.1感知机模型2.2感知机学习策路感知机是二类分类的线性分类模型,输出为实例的类别,+1和-1.感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属判別模型.感知机学习旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型.感知机学习算法具有简单而易于实现的优点,分为原始形式和对...原创 2020-03-14 10:45:31 · 337 阅读 · 0 评论 -
4 朴素贝叶斯法
文章目录4.1 朴素贝叶斯法的学习与分类4.1.1 基本方法朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法对给定的训练数据集,先基于特征条件独立假设学习输入输出的联合概率分布;然后基于此模型,对给定输入xxx,用贝叶斯定理求出后验概率最大的输出yyy.朴素贝叶斯法实现简单,学习与预测的效率都很高,是一种常用的方法 本章朴素贝叶斯法,包括朴素贝叶斯法的学习...原创 2020-03-13 17:53:17 · 287 阅读 · 0 评论 -
6 logistic回归与最大熵模型
文章目录6.1 逻辑斯谛回归模型6.1.1 逻辑斯蒂分布definition 6.1logistic regression是统计学习中的经典分类方法最大熵是概率模型学习的一个准则,将其推广到分类问题得到maximum entropy model).逻辑斯谛回归模型与最大熵模型都属于对数线性模型.本章先介绍逻辑斯谛回归模型,然后介绍最大熵模型,最后讲述逻辑斯谛回归与最大熵模型的学习算法,...原创 2019-10-27 14:35:11 · 336 阅读 · 0 评论 -
7 支持向量机
文章目录7.1线性可分支持向量机与硬间隔最大化7.1.1线性可分支持向量机7.1.2函数间隔和几何间隔7.1.3间隔最大化7.1.4学习的对偶算法7.2线性支持向量机与软间隔最大化7.2.1线性支持向量机7.2.2学习的对偶算法7.2.3支持向量7.2.4合页损失函数7.3非线性支持向量机与核函数7.3.1核技巧7.3.2正定核7.3.3 常用核函数…7.3.4 非线性支持向量分类机…7.4 序列...原创 2020-03-22 11:12:18 · 330 阅读 · 0 评论 -
8 提升方法
文章目录8.1提升方法 Adaboost算法8.1.1提升方法的基本思路8.1.2 Adalboost算法boosting是一种常用的统计学习方法,应用广泛有效分类问题中,它通过改变训练样本的权重,学习多个分类器,并将这些分类器进行线性组合,提高性能 先介绍提升方法的思路和代表性的提升算法Adaboost然后通过训练误差分析探讨Adaboost为什么能提高学习精度从前向...原创 2020-03-13 21:59:49 · 426 阅读 · 0 评论 -
10 隐马尔可夫模型
文章目录10.1 隐马尔可夫模型的基本概念10.1.1隐马尔可大模型的定义hidden Markov model用于标注问题的统计学习模型,描述由隐藏的马尔可夫链随机生成观测序列的过程,属生成模型.先介绍HMM基本概念,HMM的概率计算算法、学习算法及预测算法.语音识别、自然语言处理、生物信息、模式识别有广泛的应用10.1 隐马尔可夫模型的基本概念10.1.1隐马...原创 2020-03-23 20:07:03 · 397 阅读 · 0 评论 -
11 条件随机场
文章目录先介绍概率无向图模型,11.1 概率无向图模型11.1.1 模型定义probabilistic graphical model给定一个联合概率分布P(Y)P(Y)P(Y)和表示它的无向图GGG.成对马尔可夫性conditional random field,CRF是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型,特点是假设输出随机变量构成马尔可夫随机场.CR...原创 2019-10-29 20:30:13 · 390 阅读 · 0 评论 -
附录C
文章目录7.1线性可分支持向量机与硬间隔最大化7.1.1线性可分支持向量机7.1.2函数间隔和几何间隔7.1.3间隔最大化1.最大间隔分离超平面2.最大间隔分离超平面的存在唯一性3.支持向量和间隔边界7.1.4学习的对偶算法7.2线性支持向量机与软间隔最大化7.2.1线性支持向量机7.2.2学习的对偶算法7.2.3支持向量7.2.4合页损失函数7.3非线性支持向量机与核函数7.3.1核技巧7.3....原创 2020-03-22 21:23:07 · 301 阅读 · 0 评论 -
隐马尔科夫模型高等代数版本
关于时序的统计分析模型描述由一个隐藏的马尔可夫链随机产生不可观测的状态随机序列 (state sequence),再由各个状态生成一个观测而产生的观测随机序列 (observation sequence) 的过程萌于 20 世纪 70 ,于 80 得发展,成了信号处理的一重向今已成功应用语识、行为识别、文字识别及故障诊断等。基本概念隐马模型可被看成状态空间模型的一个具体实...原创 2019-07-25 08:59:59 · 287 阅读 · 0 评论