ISLR 读书笔记一：什么是统计学习？

最新推荐文章于 2022-10-21 10:17:29 发布
最新推荐文章于 2022-10-21 10:17:29 发布
阅读量521 收藏 4
点赞数 1
分类专栏： 机器学习 文章标签： 机器学习 人工智能 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43084570/article/details/108717624
版权
本文是ISLR读书笔记，介绍了统计学习的定义，强调理解基本概念的重要性。统计学习涉及预测与推断，包括参数方法和非参数方法。预测准确性与模型解释性之间存在权衡，监督学习关注有标签的数据，而非监督学习则关注数据内在结构。根据因变量类型，问题分为回归与分类。
摘要由CSDN通过智能技术生成

什么是统计学习？

引入

作者是数学本科出身。本科学习数学，教会我的最大一点就是，学习任何一门课程，最重要也是最基本的一点，就是掌握每一个基本概念的定义。因为任何性质，定理，都是建立在这些定义之上的，这些定义正是这门课程的基石。我觉得学习其他学科，同样也是如此。所以，我想先从统计学习的定义写起。可能需要一点多元微积分和概率论的背景知识。

统计学习的定义

Y = f ( X ) + ϵ Y=f(X)+\epsilon Y=f(X)+ϵ
这里 X = ( X 1 , X 2 , . . . , X p ) X=(X_1, X_2,...,X_p) X=(X1​,X2​,...,Xp​)
X X X是输入变量（input variables），又称自变量，特征（features）
Y Y Y是输出变量（output varibles），又称因变量，响应（response）
ϵ \epsilon ϵ是误差项，与 X X X 独立，且 E ( ϵ ) = 0 E(\epsilon)=0 E(ϵ)=0
这是一个多元函数，而统计学习指的就是一系列估计函数 f f f 的方法。

为什么要估计 f f f

主要有两大理由，一个是预测（prediction），一个是推断（inference）

预测

如果可以得到 f f f 的一个估计式 f ^ \hat{f} f^

最低0.47元/天 解锁文章
晓炜
关注
专栏目录
Statistical learning Week 1 什么是统计学习？
Fighting
12-07 2010
2016－10-14 统计学习已经上完了6周的课程，刘同亮老师（此处特意加上名字，以防以后忘了）说还会在大概三周后有一节补的课（上周一为public day），作为答疑。作为一开始来就上的 第一门课，还是很舍不得老师的。在悉尼的学习也过了一半，中期报告也交了，虽然有点凑字数的嫌疑。。。我尽量用中文写，因为中文才是我的理解，英文就不一定了。 关于这门课这门课使用的教材主要是《An Intr
统计学习概述
qq_42571025的博客
09-29 219
系列文章目录 提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加 例如：第一章 Python 机器学习入门之pandas的使用 提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录系列文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结 前言 提示：这里可以添加本文要记录的大概内容： 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。 提示：以下是本篇文章正文内容，下面案例
统计学习是什么
九术沫的博客
06-30 857
统计学习的特点 统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门科学。 统计学习以计算机及网络为平台，是建立在计算机及网络上的； 统计学习以数据为研究对象，是数据驱动的学科 统计学习的目的是对数据进行预测与分析 统计学习以方法为中心，统计学习方法构建模型并应用模型进行预测与分析 统计学习是概率论、统计学、信息论、计算机论、最优化理论及计算机科学等多个领域的交叉学科，并且在发展中逐步形成独自的理论体系与方法论。 统计学习的对象 统计学习的对象是数据。它从数据出发，抽.
统计学习（一）--统计学习的定义及常识
blackboy的专栏
05-22 878
统计学习方法分类： 1. 监督学习（supervised learning) 2. 非监督学习（unsupervised learning) 3. 半监督学习 (semi-supervised learning) 4. 强化学习（reinforcement learning) 统计学习的三要素： 1. 模型（model) 2. 策略（strategy) 3. 算法（algo
ISLR 读书笔记零：统计学习和ISLR简介
weixin_43084570的博客
09-20 786
统计学习和ISLR简介前言统计学习简介概述历史ISLR简介后记 前言 本篇文章是我学习 An introduction to Statistical Learning with Application in R （以下简称 ISLR）的第一篇文章，主要介绍了统计学习和ISLR，后续会不定期更新。 统计学习简介 概述 统计学习（statistical learning）是一系列用来理解数据的方法。这些方法主要可以分为两类： 监督学习 （supervised learning ） 非监督学习 （unsuper
ISLR 读书笔记二：评估模型的准确性
weixin_43084570的博客
09-22 726
评估模型的准确性MSE偏差 VS 方差分类问题贝叶斯分类器KNN 统计学习中，有一条天下没有免费的午餐定理：没有哪一个方法可以对任何数据集，都胜过其他任何方法。所以，在具体实践中，选择最好的方法，成为了一个具有挑战性的问题。但是要如何比较模型的好坏呢？以下就介绍了一些评估模型好坏的概念。 MSE MSE是均方误差（mean squared error）的缩写，用来刻画模型拟合程度的好坏，多用于线性回归模型。 MSE=1n∑i=1n(yi−f^(xi))2MSE=\frac{1}{n}\sum_{i=1}^n
ISLR读书笔记九：自助法（bootstrap）
weixin_43084570的博客
10-10 527
自助法是一类应用很广的统计方法，可以用来定量化参数估计或者统计学习方法的不确定性。自助法重复地从原数据集中采样，这里采样是可放回的（replacement），可以允许有同样的样本出现，然后用得到的样本进行参数估计。 举一个例子来说明自助法的应用。假设有 XXX 和 YYY 两种不同的金融资产，现要对 XXX 和 YYY 进行投资，使得总风险最小。假设有 α\alphaα 投给了 XXX， 1−α1-\alpha1−α 投给了 YYY，那么总风险就是 Var(αX+(1−α)Y)Var(\alpha X+(1
ISLR 读书笔记五：线性回归的其他考虑
weixin_43084570的博客
09-25 439
线性回归的其他考虑定性自变量只有两个类有多个类线性模型的延伸加性假设的移除非线性关系潜在的问题非线性关系误差项的相关性误差项方差非常数离群值高杠杆数据点共线性 这一篇文章主要讲了前两讲线性回归中没有涉及到的问题。 定性自变量 之前的线性回归自变量都是定量数据，如果变量是定性数据，可以引入哑变量（dummy variable） 只有两个类 如果某个自变量只有两个类，比如性别，分为男、女，那么可以引入哑变量 xix_ixi​， xi={1性别为女0性别为男x_i=\left\{ \begin{aligned}
统计学习的相关定义
weixin_30505485的博客
08-19 96
1. 什么是统计学习？ 　　统计学习（statistical learning）是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。具有以下特点： 　　（1）以计算机和网络为平台；（2）以数据为对象，数据驱动的学科；（3）目的是对数据进行预测和分析；（4）以方法为中心，统计学习方法构建模型并应用模型进行预测和分析；（5）概率论、信息论、计算理论、最优化理论及计算机学习...
统计学习方法
weixin_41093521的博客
01-07 1652
统计学习方法 统计学习是什么？ 机器学习中所谓的学习就是从海量数据中学习到“经验”，再将这种“经验”应用与对未知数据的预测与分析！而这种思想的本质就是来自于统计学。可以所以说机器学习的本质就是统计学习方法，所以要研究机器学习的原理，就一定要从统计学习开始！ 统计学习的分类 机器学习中的学习算法通常分为4类： 监督学习：数据为的数据都是有标签的数据，然后对数据集数据进行学习，通过学
统计学习概论
nidayededaye2的博客
10-21 257
统计学习就是：用于对数据进行预测与分析，特别是对未知新数据进行预测与分析。从给定 的、有限的、用于学习的训练数据（training data）集合出发，假设数据是独立同分 布产生的；并且假设要学习的模型属于某个函数的集合，称为假设空间（hypothesis space）；应用某个评价准则（evaluation criterion），从假设空间中选取一个最优的 模型，使它对已知训练数据及未知测试数据（test data）在给定的评价准则下有最 优的预测；最优模型的选取由算法实现述监督学习中的统计。
统计学习方法概论
Hello World
10-18 586
1、统计学习（statistical learning）也称为统计机器学习，是关于计算机基于数据构建概率统计模型并运用模型对数据进行分析预测的一门学科，主要特点有： 统计学习以计算机及网络为平台，建立在计算机及网络上； 统计学习以数据为研究对象，是数据驱动的学科； 统计学习的目的是对数据进行预测分析； 统计学习以方法为中心，构建模型并应用模型进行分析预测； 统计学习是概率论、统计学、信息论、计算理论、最优化理论及计算机科学等多个领域的交叉学科，并且在发展中逐步形成独自的理论体系与方法论； 2、统计学习的
统计学习-基本术语和概念
小羊哈利
09-27 1105
1.统计学习和机器学习： 统计学习就是计算机系统通过利用数据和统计方法提高系统性能的机器学习，如今的机器学习一般指的就是统计学习。所谓的系统性能一般指对数据的分析和预测能力。2.输入空间，输出空间，特征空间 将输入和输出所有可能的取值称之为输入空间和输出空间; 每个输入实例通常由一个特征向量进行表示，这样所有的特征向量构成了特征空间。有的时候输入空间和特征空间是相同的，有的时候是不同（比如：输
统计学习方法-理论知识学习笔记
忆_恒心的博客
07-11 1466
目录 前言： 1 统计学习的方法概论 1.1 统计学习 1.1.1 统计学习特点 1.1.2 统计学习的对象 1.1.3 统计学习的目的 1.1.4 统计学习的方法 1.1.5 统计学习的研究 1.1.6 统计学习的重要性 1.2 监督学习 1.2.1 基本概念 1.3 统计学习三要素 1.3.1 模型 1.3.2 策略 1.3.3 算法 1.4 模型评估与模型选择 1.4.1 训练误差与测试误差 1.5 正则化与交叉验证 1.5.1 正则化 1.5.2 交叉验.
统计学习方法读记
dingyahui的博客
04-20 577
统计学习方法读记（上）1、统计学习：是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科，统计学习也可以称为统计机器学习。统计学习的特征：1）以计算机及网络为平台，2）以数据为对象，3）目的是对数据进行预测和分析。4）以方法为中心。5）多个学科交叉。2、统计学习的对象及目的：从数据中提取数据特征，抽象出模型，发现知识用于数据的分析与预测中，统计学习的对象可以是多样的。他的...
统计学习的基本概念和分类
Txixi的博客
01-19 1213
前言 一、统计学习的概念 1、统计学习应用领域 #pic_center =80%x80% 2、统计学习的概念 统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。 以计算机和网络为平台 以数据为研究对象 以预测和分析数据为目的 以方法为中心 是多领域交叉的学科 3、统计学习方法步骤 （1）得到一个有限的训练数据集合 （2）确定学习模型的集合 ………………模型 （3）确定模型选择的准则 ………………策略 （4）实现求解最优模型的算法………………算法
ISLR_StatisticalLearning
YoungGy的专栏
10-04 1039
Statistical Learning
ModuleNotFoundError: No module named 'ISLR'
最新发布
06-20
ISLR通常指的是《An Introduction to Statistical Learning with Applications in R》这本书中使用的R语言包的Python版本，可能用于数据挖掘和统计学习的示例。 解决这个问题的步骤通常是： 1. 首先检查你的项目或...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值