统计学习方法:(读书笔记)------ 第一章 统计学习方法概论

统计学习方法:(读书笔记)------ 第一章 统计学习方法概论

机器学习和数据挖掘

概述

在这里插入图片描述
在这里插入图片描述

机器学习相关学术期刊和会议

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

机器学习和统计学习

什么是统计学习

统计学习是关于计算机基于数据构建概率统计模型并用模型对数据进行预测与分析的一门学科,也被叫做统计机器学习

概述

在这里插入图片描述
在这里插入图片描述

专业术语

在这里插入图片描述

统计学习

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

实现统计学习方法的步骤

(1)得到一个有限的训练数据集合
(2)确定包含所有可能的模型的假设空间,即学习模型的集合
(3)确定模型选择的准则,即学习的策略
(4)实现求解最优模型的算法,即学习算法
(5)通过学习方法选择最优模型
(6)利用学习的最优模型对新数据进行预测或分析

统计学习三要素
模型

在这里插入图片描述
在这里插入图片描述

策略
损失函数与风险函数

在这里插入图片描述

常用损失函数

在这里插入图片描述

经验风险最小化与结构风险最小化

在这里插入图片描述
在这里插入图片描述

算法

在这里插入图片描述

模型评估与模型选择
训练误差与测试误差

在这里插入图片描述

过拟合与模型选择

在这里插入图片描述

正则化与交叉验证
正则化

模型选择的典型方法是正则化。

在经验风险上加一个正则化项。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

交叉验证

另一种常用的模型选择方法

在这里插入图片描述

简单交叉验证

在这里插入图片描述

S折交叉验证

在这里插入图片描述

留一交叉验证

在这里插入图片描述

泛化能力
定义

泛化能力是指由该方法学习到的模型对新数据的预测能力,是学习方法本质上重要的性质。

泛化误差

在这里插入图片描述

泛化误差上界

在这里插入图片描述

监督学习

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

生成模型与判别模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

分类问题

在这里插入图片描述
在这里插入图片描述

标注问题

在这里插入图片描述
在这里插入图片描述

回归问题
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值