![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
读书笔记
'Themis'
这个作者很懒,什么都没留下…
展开
-
《统计学习方法》读书笔记——第三章 K近邻法
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 目录 写在前面 本章框架 KNN算法 KNN模型 KNN算法的实现 补充知识点 KNN与K-means 本章框架 KNN算法 针对目标点,找到和目标点最近的K个点,根据这K个点分类决策目标点的类别。 KNN模型 KNN模型的三要素...原创 2019-02-28 13:48:57 · 177 阅读 · 0 评论 -
《统计学习方法》读书笔记——第十一章 条件随机场
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 目录 写在前面 本章框架 概率无向图模型(马尔科夫随机场) 条件随机场 条件随机场的三个问题 补充知识点 本章框架 概率无向图模型(马尔科夫随机场) 是一个可以由无向图表示的联合概率分布,其中用图的节点(node)表示随机...原创 2019-03-20 19:41:07 · 564 阅读 · 0 评论 -
《统计学习方法》读书笔记——第七章 支持向量机
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 目录 写在前面 本章框架 线性可分SVM与硬间隔最大化 线性SVM与软间隔最大化 非线性SVM与核函数 序列最小最优化算法(SMO) 补充知识点 欧氏空间与希尔伯特空间 凸函数、凸优化、凸二次规划 KKT(Karush-Kuhn-T...原创 2019-03-16 15:39:18 · 243 阅读 · 0 评论 -
《统计学习方法》读书笔记——第六章 逻辑斯谛回归与最大熵模型
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 目录 写在前面 本章框架 逻辑斯谛回归模型 最大熵模型 模型学习的最优化方法 补充知识点 本章框架 逻辑斯谛回归模型 名称 公式 描述 逻辑斯谛回分布 逻辑斯谛回归模型 ...原创 2019-03-16 14:03:25 · 223 阅读 · 0 评论 -
《统计学习方法》读书笔记——第九章 EM算法及其推广
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 目录 写在前面 本章框架 EM算法 EM算法在高斯混合模型中的应用 EM算法的推广 补充知识点 高斯混合模型 本章框架 EM算法 在进行概率模型的参数估计时,如果变量全是可以直接观测的,就可以直接用极大似然估计或贝叶斯估计;如果模型中...原创 2019-03-20 13:27:24 · 393 阅读 · 0 评论 -
《统计学习方法》读书笔记——第八章 提升方法
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 目录 写在前面 本章框架 提升方法 Adaboost算法 提升树 补充知识点 本章框架 根据训练数据的线性可分、近似线性可分、线性不可分这三个程度,SVM由简单到复杂地呈现为线性可分SVM、线性SVM以及非线性SVM三种。本章先分别介绍这...原创 2019-03-19 22:02:04 · 191 阅读 · 0 评论 -
《统计学习方法》读书笔记——第二章 感知机
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 目录 写在前面 本章框架 感知机模型 策略 学习方法 补充知识点 最优化算法 本章框架 感知机模型 公式为的线性二分类器。 策略 极小化Loss函数,其中M为误分类点。 学习方法 基于随即梯度下降对Loss进行最优化,有原始形...原创 2019-02-27 11:34:21 · 260 阅读 · 0 评论 -
《统计学习方法》读书笔记——第一章 统计学习方法概论
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 目录 写在前面 本章框架 监督学习、非监督学习与强化学习 统计学习三要素 极大似然估计 贝叶斯估计 最大后验概率估计 生成模型和判别模型 回归、分类和标注 本章框架 监督学习、非监督学习与强化学习 监督学习:从数据中预测标签(学认...原创 2019-02-25 10:14:20 · 280 阅读 · 0 评论 -
《统计学习方法》读书笔记——第五章 决策树
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 目录 写在前面 本章框架 决策树模型 特征选择 树的生成和剪枝 补充知识点 NP完全问题 基尼指数 正则化的极大似然函数 递归、动态规划等算法回顾 本章框架 决策树模型 一种对实例进行分类对树形结构,也表示了在给定特定条件下,类...原创 2019-02-28 21:45:53 · 212 阅读 · 0 评论 -
《统计学习方法》读书笔记——第四章 朴素贝叶斯
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 目录 写在前面 本章框架 朴素贝叶斯方法 参数估计 补充知识点 极大似然估计 贝叶斯估计 本章框架 朴素贝叶斯方法 朴素贝叶斯:基于贝叶斯定理与特征条件独立假设。 根据先验概率分布和条件概率分布, 计算后验概率分布,输出后验概率最...原创 2019-02-28 17:20:35 · 244 阅读 · 0 评论 -
《统计学习方法》读书笔记——第十章 隐马尔可夫模型
写在前面 本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。 本章框架 隐马尔可夫模型 隐马尔可夫模型是关于时序的模型,由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列, 再由各个状态生成一个观测而产生观测随机序列。由三个要素确定:初始概率分布、状态转移概率分布以及观测概率分布,可写为。 两个假设: ...原创 2019-03-20 20:11:23 · 213 阅读 · 0 评论