- 博客(11)
- 收藏
- 关注
RSS订阅原创 统计学习方法读书笔记第九章：EM算法及其推广
统计学习方法读书笔记第九章：EM算法及其推广统计学习方法读书笔记第九章：EM算法及其推广EM算法的引入EM算法的收敛性EM算法在高斯混合模型学习中的应用EM算法的推广统计学习方法读书笔记第九章：EM算法及其推广EM算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。EM算法的每次迭代由两步组成：E步，求期望（expectation）；M步，求极大（maximiz...
2019-02-27 10:58:45
423
原创 统计学习方法读书笔记第八章：提升方法
统计学习方法读书笔记第八章：提升方法统计学习方法读书笔记第八章：提升方法提升方法AdaBoost算法AdaBoost算法的训练误差分析AdaBoost算法的解释提升树统计学习方法读书笔记第八章：提升方法提升（boosting）方法是一种常用的统计学习方法，应用广泛且有效。在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类性能。提升方法AdaBoost...
2019-02-26 16:26:33
312
原创 统计学习方法读书笔记第十章：隐马尔科夫模型
统计学习方法读书笔记第十章：隐马尔科夫模型统计学习方法读书笔记第十章：隐马尔科夫模型隐马尔科夫模型的基本概念概率计算算法学习算法预测算法统计学习方法读书笔记第十章：隐马尔科夫模型隐马尔科夫模型是可用于标注问题的统计学模型，描述由隐藏的马尔科夫链随机生成观测序列的过程，属于生成模型。隐马尔科夫模型的基本概念隐马尔科夫模型的定义隐马尔科夫模型 隐马尔科夫模型是关于时序的概率模型，描述有一...
2019-02-25 09:36:34
813
原创 卡尔玛滤波的原理说明
卡尔玛滤波的原理说明卡尔曼滤波的原理说明卡尔曼滤波的介绍卡尔曼滤波算法卡尔曼滤波的原理说明简单来说，卡尔曼滤波器是一个“optimal recursive data processing algorithm（最优化自回归数据处理算法）”。对于解决很大部分的问题，它是最优、效率最高甚至是最有用的。卡尔曼滤波的介绍这里先根据下面的例子对卡尔曼滤波的5条公式进行一步一步地探索。假设我们要研究的...
2019-02-19 09:31:37
1020
原创 统计学习方法读书笔记第七章：支持向量机
统计学习方法读书笔记第七章：支持向量机统计学习方法读书笔记第七章：支持向量机线性可分支持向量机与硬间隔最大化统计学习方法读书笔记第七章：支持向量机支持向量机(support vector machines, SVM)是一种二类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；支持向量机还包括核技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略就是...
2019-02-15 14:28:55
531
原创 统计学习方法读书笔记第六章：逻辑斯谛回归与最大熵模型
统计学习方法第六章：逻辑斯谛回归与最大熵模型统计学习方法读书笔记第六章：逻辑斯谛回归与最大熵模型逻辑斯谛回归模型最大熵模型统计学习方法读书笔记第六章：逻辑斯谛回归与最大熵模型逻辑斯谛回归是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型。逻辑斯谛回归模型与最大熵模型都属于对数线性模型。逻辑斯谛回归模型逻辑斯谛分布设XXX是连续随机变量，XXX服...
2019-02-14 16:48:58
475
原创 统计学习方法读书笔记第五章：决策树
统计学习方法读书笔记第五章：决策树决策树决策树模型与学习特征选择决策树的生成决策树的剪枝CART算法CART剪枝决策树决策树是一种基本的分类与回归方法。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类速度快。学习时，利用训练数据，根据损失函数最小化的原...
2019-02-14 11:24:55
367
原创 统计学习方法读书笔记第四章：朴素贝叶斯法
统计学习方法读书笔记第四章：朴素贝叶斯法朴素贝叶斯法朴素贝叶斯法的学习与分类朴素贝叶斯法朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入xxx，利用贝叶斯定理求出后验概率最大的输出yyy。朴素贝叶斯法的学习与分类基本方法朴素贝叶斯法通过训练数据集学习联合概率分布P(X,Y)...
2019-02-13 14:13:50
357
1
原创 统计学习方法读书笔记第三章：k近邻法
统计学习方法读书笔记第三章：k近邻法k近邻法k紧邻算法k近邻模型k近邻法的实现：kd树k近邻法kkk近邻法是一种基本分类与回归方法。kkk近邻的输入为实例的特征向量，对应于特征空间的点；输出为实例的类别，可以取多类。kkk近邻法假设给定一个训练数据集，其中的实例类别已定。分类时，对新的实例，根据其kkk个最近邻的训练实例的类别，通过多数表决等方式进行预测。因此，kkk近邻法不具有显式的学习过程...
2019-02-13 11:22:31
237
原创 统计学习方法读书笔记第二章：感知机
统计学习方法概论第二章感知机感知机模型感知机学习策略感知机学习算法感知机感知机是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面，属于判别模型。感知机旨在求出将训练数据进行线性划分的分离超平面，为此，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型。感知机模型...
2019-02-12 18:23:51
278
原创 统计学习方法读书笔记第一章：概论
统计学习方法概论阅读目录统计学习监督学习统计学习的三要素模型评估与模型选择正则化与交叉验证泛化能力生成模型与判别模型分类问题、标注问题、回归问题阅读目录统计学习统计学习的特点： 统计学习（statistical learning）是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。又称为统计机器学习。“如果一个系统能够通过执行某个过程改进它的性能，这就是学习。”...
2019-02-12 16:36:29
373
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人