![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 89
《机器学习》学习笔记
_StarryNight_
笔记存放处
展开
-
数理统计基础:参数估计与假设检验
在学习机器学习的过程中,我充分感受到概率与统计知识的重要性,熟悉相关概念思想对理解各种人工智能算法非常有意义,从而做到知其所以然。因此打算写这篇笔记,先好好梳理一下参数估计与假设检验的相关内容。先从整体结构上进行一个把握。数理统计的主要任务是通过样本的信息推断总体的信息,即统计推断工作。统计推断主要有两大类问题:参数估计和假设检验。它们都建立在抽样分布理论的基础之上,但角度不同。参数估计是利用样本信息推断未知的总体参数;而假设检验是先对总体参数提出一个假设值,然后利用样本信息判断这一假设是否成立。参数.原创 2023-12-10 19:47:24 · 1764 阅读 · 0 评论 -
主成分分析原理以及SPSS和Python实现
[ 0 ] 一句话定义主成分分析(principal component analysis,PCA) 是一种常用的无监督学习方法,它利用正交变换把由线性相关变量表示的观测数据转换为少数几个由线性无关变量表示的数据,线性无关的变量叫主成分,主成分个数主一般小于原始变量个数,所以它是一种降维方法。主成分分析主要用于发现数据中的基本结构,即数据中变量之间的基本关系,是一种描述性统计方法,常常用于其他机器学习方法的前处理。——李航《统计学习方法》[ 1 ] 使用目的和使用条件统计分析中,变量之间可能存在原创 2022-03-21 17:01:08 · 2751 阅读 · 4 评论 -
SVM支持向量机基本原理
1.基本概念支持向量机是一种二分类模型,它的基本模型是定义在特征空间上的间隔最大的线性分类器,核技巧使它成为实质上的非线性分类器。模型:分离超平面w∗x+b∗=0w^{*}x+b^{*}=0w∗x+b∗=0 +决策函数f(x)=sign(w∗x+b∗)f(x)=sign(w^{*}x+b^{*})f(x)=sign(w∗x+b∗)学习策略:硬间隔最大化 / 软间隔最大化学习算法:凸二次规划2.基本分类线性可分支持向量机线性3.线性可分支持向量机学原创 2022-03-14 19:21:59 · 1152 阅读 · 0 评论 -
分类问题的评价指标
分类问题的评价指标/分类度量,查准率和查全率,PR图,ROC曲线等原创 2022-02-17 00:01:52 · 1152 阅读 · 0 评论 -
自存。。。
经典机器学习算法线性模型决策树支持向量机KNNKmeans和DBSCAN神经网络AdaBoostboosting和bagging================待补充-----------------------[SVM、随机森林、XGBoost、GBDT、深度学习相关等等]数据挖掘常识数据预处理特征选择与特征抽取偏差与方差Jaccard系数混淆矩阵查准率与查全率概率与统计基础回归分析回归分析补充假设检验Python工具【NumPy】官方文档详解(一)什么是Nu原创 2022-02-14 01:11:18 · 1088 阅读 · 0 评论 -
From Data Mining to Knowledge Discovery in Databases
经典论文翻译:从数据挖掘到数据库中的知识发现翻译 2022-01-28 02:02:09 · 605 阅读 · 0 评论 -
AdaBoost基本原理与详细公式推导
目录Boosting简介AdaBoost1. 基本思路2. 算法过程3. 算法解释3.1 加法模型3.2 指数损失函数3.3 前向分步算法3.4 推导证明3.4.1 优化Gm(x)G_m(x)Gm(x)3.4.2 优化 αm\alpha_mαm机器学习中有一类集成学习算法,它基于一组弱学习器进行组合提升,得到具有优越性能的强学习器。集成学习策略主要有boosting和bagging两大类。本文要介绍的AdaBoost就是boosting的重要代表。Boosting简介Boosting基本思想:通过原创 2022-01-19 04:46:57 · 2520 阅读 · 0 评论 -
回归分析的几个问题:异方差性、自相关性、多重共线性
在 回归分析学习笔记(一):尽量详细且说人话 中介绍了经典回归分析的基本假设,如果假设条件不满足会出现一些问题,现在就来具体的介绍一下。对于我们分析的具体问题,叙述逻辑为:概念描述——产生原因——导致结果——补救措施。基本假设x1,...,xpx_1,...,x_px1,...,xp 是确定性变量,不是随机变量;解释变量之间不相关,样本容量个数大于解释变量个数,即X\boldsymbol XX的秩为 p+1<n;Gauss−Markov条件{E(ϵi)=0,i=1,2,...,nCov(原创 2022-01-13 03:10:04 · 16253 阅读 · 0 评论 -
回归分析学习笔记(一):尽量详细且说人话
介绍回归分析基础知识,对原理和公式推导都有说明,主要内容包括一元线性回归、多元线性回归、最小二乘法、显著性检验等原创 2022-01-08 23:51:17 · 3431 阅读 · 0 评论 -
决策树基本原理:基于信息增益、增益率与基尼系数的划分选择,预剪枝与后剪枝,多变量决策树以及决策树优缺点概述
学习西瓜书决策树章节的笔记,介绍了ID3,C4.5,CART算法的划分方式,连续值和缺失值的处理,预剪枝和后剪枝,多变量决策树,并描述了决策树的主要优缺点。原创 2021-12-19 14:33:13 · 4011 阅读 · 0 评论 -
神经网络基本原理、误差逆传播BP算法公式推导与多层神经网络的Python实现
学习西瓜书神经网络章节的笔记,对神经网络的相关公式进行了推导,并用python进行实现,欢迎交流指正~原创 2021-12-10 02:10:31 · 1977 阅读 · 0 评论 -
线性模型:线性回归、逻辑回归、线性判别分析、多分类学习与类别不平衡问题
本文主要是学习周志华《机器学习》第三章的个人笔记,对线性模型进行了学习,欢迎交流学习。原创 2021-10-12 00:04:00 · 1434 阅读 · 0 评论