![](https://img-blog.csdnimg.cn/20200822180108288.jpg?x-oss-process=image/resize,m_fixed,h_224,w_224)
《统计学习方法》读书笔记
文章平均质量分 96
《统计学习方法》读书笔记+代码实现
郭义臣
郭义臣, 合肥工业大学硕士研究生
GitHub: https://github.com/mrycguo
展开
-
《统计学习方法》读书笔记——朴素贝叶斯法(公式推导+代码实现)
朴素贝叶斯法写在前面 写在前面 朴素贝叶斯法与贝叶斯估计是不同的概念。 损失函数与风险函数 损失函数用于度量一次预测的好坏; 风险函数用于度量平均意义下模型的好坏。 全概率公式与逆概率公式 设A1,A2,...,AnA_1,A_2,...,A_nA1,A2,...,An为一组完备事件组,则对任一事件BBB,有如下全概率公式: P(B)=∑i=1nP(Ai)P(B∣Ai) P(B) =\sum_{i=1}^nP(A_i)P(B|A_i) P(B)=i=1∑nP(Ai)P(B∣Ai) 若P(B原创 2020-08-26 10:04:41 · 637 阅读 · 0 评论 -
《统计学习方法》读书笔记——K近邻法(原理+代码实现)
K近邻法 一、K近邻法 K近邻法((k-nearest neighbor),简称KNN,是一种基本的分类算法。其描述如下: 给定一个数据集与待分类样本xxx,分类时,在数据集中找出K个与xxx最近邻的样本。根据这K个样本的类别,通过多数表决等方式进行预测xxx的类别。 注:K近邻法没有显式的学习过程 二、K近邻法模型 k 近邻法使用的模型实际上对应于对特征空间的划分。K近邻法模型有三个基本要素:距离度量、K值的选择、分类决策规则。 特征空间中,对每个训练样本xix_ixi,距离该点比其他点更近的所有点原创 2020-08-22 17:31:18 · 484 阅读 · 0 评论 -
《统计学习方法》读书笔记——感知机(原理+代码实现)
感知机 一、感知机的定义 假设输入空间 X⊆Rn\mathcal{X}\subseteq{\mathcal{R^n}}X⊆Rn,输出空间Y={+1,−1}\mathcal{Y} = \{+1, -1\}Y={+1,−1}; 输入x∈Xx\in\mathcal{X}x∈X表示样本的特征向量,输出y∈Yy\in\mathcal{Y}y∈Y表示样本的类别。则由输入空间到输出空间的映射(函数) f(x)=sign(w⋅x+b) f(x)=sign(w \cdot x + b) f(x)=sign(w⋅x+b) 称为原创 2020-08-17 19:53:23 · 454 阅读 · 0 评论 -
《统计学习方法》读书笔记——机器学习常用评价指标
机器学习常用评价指标 本文介绍机器学习中常见的评价指标,包括准确率、精确率、召回率、F1F_1F1,后续会添加对其它评估指标的介绍。 一、概念 在二分类问题中,对于一个训练数据集,我们将数据样本分为正类(positive class)与负类(negative class)。因此分类器对样本的预测结果可分为以下四种情况: TP(true positive): 将正类预测为正类的个数, FN(false negative): 将正类预测为负类的个数 FP(false positive): 将负类预测为正类的原创 2020-08-16 12:25:16 · 462 阅读 · 0 评论