统计学习方法
机器学习理论《统计学习方法》李航
紫芝
你可不可以成为我的main函数,做我此生有且仅有一个入口;我愿为自己加上private,在你的class中只有你能调用。
展开
-
机器学习理论《统计学习方法》学习笔记:第十一章 条件随机场(CRF)
第十一章 条件随机场摘要参考文献摘要参考文献原创 2020-11-25 22:59:20 · 486 阅读 · 0 评论 -
机器学习理论《统计学习方法》学习笔记:主成分分析(PCA)
第十六章 主成分分析(PCA)摘要1 总体主成分分析1.1 基本思想1.2 总体主成分分析定义1.3 主成分的个数1.4 规范化变量的总体主成分分析2 样本主成分分析2.1 样本主成分的定义和性质摘要主成分分析(Principal component analysis, PCA)是一种常用的无监督学习方法。这一方法利用正交变换,把由线性相关变量表示的观测数据,转换为少数几个由线性无关变量表示的数据,线性无关的变量称为主成分。主成分的个数通常小于原始变量的个数,所以主成分分析属于降维方法。主成分分析主要用原创 2020-11-20 12:21:33 · 3063 阅读 · 0 评论 -
机器学习理论《统计学习方法》学习笔记:第十章 隐马尔可夫模型(HMM)
第十章 隐马尔可夫模型摘要隐马尔可夫模型的基本概念生成模型和判别模型摘要隐马尔可夫模型(HMM)是可用于标注问题的统计学习模型,描述由隐藏的马尔可夫链随机生成观测序列的过程,属于生成模型。隐马尔可夫模型在语音识别、自然语言处理、生物信息、模式识别等领域有着广泛的应用。隐马尔可夫模型的基本概念生成模型和判别模型...原创 2020-11-06 12:27:54 · 1888 阅读 · 0 评论 -
机器学习理论《统计学习方法》学习笔记:第九章 EM算法及其推广
第九章 EM算法及其推广摘要9.1 EM算法的引入9.1.1 EM算法9.1.2 EM算法的导出9.1.3 EM算法在无监督学习中的应用9.2 EM算法的收敛性9.3 EM算法在高斯混合模型中的应用9.3.1 高斯混合模型9.3.2 高斯混合模型参数估计的EM算法9.4 EM算法的推广9.4.1 F函数的极大-极大算法9.4.2 GEM算法概要摘要EM算法是一种迭代算法,1977年由Dempster等人总结提出,用于含隐变量(Hidden variable)的概率模型参数的极大似然估计,或极大后验概率估原创 2020-11-03 20:48:58 · 665 阅读 · 0 评论 -
机器学习理论《统计学习方法》学习笔记:第六章 逻辑斯谛回归与最大熵模型
机器学习理论《统计学习方法》学习笔记:第六章 逻辑斯谛回归与最大熵模型6 逻辑斯谛回归与最大熵模型6.1 逻辑斯谛分布6 逻辑斯谛回归与最大熵模型逻辑斯谛回归(logistic regression)是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则,将其推广到分类问题得到最大熵模型(maximum entropy model)。逻辑斯谛回归模型与最大熵模型都属于对数线性模型。6.1 逻辑斯谛分布逻辑斯谛分布:设XXX是连续随机变量,XXX服从逻辑斯谛分布是指XXX具有下列分布函数和密度原创 2020-08-31 10:47:06 · 301 阅读 · 0 评论 -
机器学习理论《统计学习方法》学习笔记:第五章 决策树
机器学习理论《统计学习方法》学习笔记:第五章 决策树决策树决策树决策树(Decision Tree)是一种基本的分类与回归方法。本章主要用于分类的决策树。决策树模型呈树形结构,在分类问题中,表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合,也可以认为是定义在特征空间与类空间上的条件概率分布。决策树的主要优点是:模型具有可读性,分类速度快。学习时,利用训练数据,根据损失函数最小化的原则建立决策树模型。预测时,对新的数据,利用决策树模型进行分类。决策树模型学习通常包括3个步骤:特原创 2020-08-20 15:45:20 · 318 阅读 · 0 评论 -
机器学习理论《统计学习方法》学习笔记:第四章 朴素贝叶斯法
机器学习理论《统计学习方法》学习笔记:第三章 朴素贝叶斯法4 朴素贝叶斯法4.1 朴素贝叶斯法的学习与分类4.1.1 基本方法4.1.2 后验概率最大化的含义4.2 朴素贝叶斯法的参数估计4.2.1 极大似然估计4.2.2 学习与分类算法4.2.3 贝叶斯估计本章概要4 朴素贝叶斯法朴素贝叶斯(native bayes)法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集,首先基于特征条件独立假设学习输入输出的联合概率分布;然后基于此模型,对给定的输入x,利用贝叶斯定理求出后验概率最大原创 2020-08-17 18:13:41 · 232 阅读 · 0 评论 -
机器学习理论《统计学习方法》学习笔记:第三章 k近邻法
机器学习理论《统计学习方法》学习笔记:第二章 k近邻法原创 2020-08-17 08:48:39 · 452 阅读 · 0 评论 -
机器学习理论《统计学习方法》学习笔记:第二章 感知机
《统计学习方法》学习笔记:第二章 感知机2 感知机2 感知机感知机(perceptron)是二分类的线性分类模型,原创 2020-08-15 20:10:03 · 231 阅读 · 0 评论 -
机器学习理论《统计学习方法》学习笔记:第一章 统计学习及监督学习
统计学习方法学习笔记:统计学习及监督学习1 统计学习及监督学习概论1.1 统计学习1. 统计学习的特点2. 统计学习的对象3. 统计学习的目的4. 统计学习的方法6. 统计学习的重要性1.2 统计学习的分类1.2.1 基本分类1. 监督学习1 统计学习及监督学习概论监督学习是从标注数据中学习模型的机器学习问题,是统计学习和机器学习的重要组成部分。1.1 叙述统计学习或机器学习的定义,研究对象与方法。1.2 叙述统计学习的分类,基本分类是监督学习、无监督学习、强化学习。1.3 叙述统计学习方法的三原创 2020-08-14 17:12:49 · 527 阅读 · 1 评论