统计学习方法笔记
主要记录学习李航老师《统计学习方法》的个人笔记
madao10086+
Nothing is more pratical than a good theory.
展开
-
统计学习笔记-第7章 支持向量机
听大牛说,经常写博客有助于知识沉淀,我这虽然没啥沉淀,只有残渣。不过,俗话说的好,好记性不如烂笔头,及时把学过的知识给其他人讲一遍,确实是最好的复习方法。支持向量机这部分的知识点断断续续看了一周,看的头皮发麻,至今仍有许多疑惑。在理解之前先记下部分总结,也包括一些不懂的点,等回过头有时间再过来看看。因为本人也是初次接触机器学习,可能会存在不足之处,望各位大佬多多指正。原创 2020-08-12 15:48:28 · 379 阅读 · 0 评论 -
统计学习笔记-第四章 朴素贝叶斯法
第4章 朴素贝叶斯法朴素贝叶斯(naive Bayes)法是基于贝叶斯定理与特征条件独立假设的方法.4.1 朴素贝叶斯法的学习与分类4.1.1 基本方法设输入空间 x⊆Rnx\subseteq R^nx⊆Rn, 输出空间 Y=c1,c2,c3,...,ckY = {c_1, c_2, c_3, ..., c_k}Y=c1,c2,c3,...,ck, 输入特征向量 x∈Xx \in Xx∈X, 输出为类标记(class label) y∈Yy \in Yy∈Y, P(X,Y)P(X,Y)P原创 2020-07-21 17:46:49 · 190 阅读 · 0 评论 -
统计学习笔记-第三章 k邻近法
第三章 k近邻法文章目录第三章 k近邻法3.1 k近邻算法3.2 k近邻模型3.2.1 模型3.2.2 距离度量3.2.3 K值的选择3.2.4 分类决策规则3.3 k近邻法的实现:kd树3.3.1 构造kdkdkd树3.3.2 搜索 kdkdkd 树k近邻法(k-nearnest neighbor, K-NN)是一种基本分类与回归方法.对于输入的实例,k近邻法通过多数表决等方式进行预测,故其不具有显式的学习过程;三个基本要素是:K值的选择、距离度量及分类决策准则.3.1 k近邻算法算法 3原创 2020-07-14 21:19:02 · 444 阅读 · 0 评论 -
统计学习笔记-第一章 统计学习方法概论
第一章 统计学习方法概论统计学习方法三要素:模型、策略和算法1.1 统计学习1.统计学习的特点统计学习(statistical learning):计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科,也称为统计及其学习(statistical machine learning)以计算机及网络为平台,建立在计算机及网络之上以数据为研究对象,是数据驱动的学科目的是对数据进行预测和分析统计学习是概率论、统计学、信息论、最优化理论及计算机科学等多个领域的交原创 2020-07-06 20:44:59 · 287 阅读 · 0 评论 -
统计学习笔记-第二章 感知机
文章目录第二章 感知机2.1 感知机模型2.2 感知机学习策略2.2.1 数据集的线性可分性2.2.2 感知机的学习策略2.3 感知机学习算法2.3.1 感知机学习算法的原始形式2.3.2 算法的收敛性2.3.3 感知机学习算法的对偶形式第二章 感知机感知机(perceptron)是二类分类的线性分类模型,输入为实例的特征向量,输出为实例的类别。感知机属于判别模型感知机主要是为了求出将训练数据进行线性划分的分离超平面,导入误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型2.原创 2020-07-09 16:27:05 · 210 阅读 · 0 评论