2-12日内容1:机器学习概述

写在开头:内容大部分来自伯禹学习平台

什么是机器学习

由 Tom Mitchel给出的更加数学化的定义:机器学习是一门硏究学习算法的学科,这些算法能够:
在某些任务T上、通过经验E、提升性能P、非显式编程实现
一个学习任务可以由三元组<T、P、E>明确定义

两种机器学习类型

  • 面向预测
    根据数据预测所需的输出(监督学习):给定数据和标签预测所需的输出,最理想的场景
    生成数据实例(无监督学习):分析和利用隐式数据模式/结构
  • 面向决策
    在动态环境中采取行动(强化学习):学习在动态环境中动作执行的决策,并获得尽可能多的奖励值
    转变到新的状态
    获得即时奖励
    随着时间的推移最大化累积奖励

机器学习基本思想

机器学习过程

在这里插入图片描述

监督学习

在这里插入图片描述

学习目标

在这里插入图片描述
注:平方误差的优点:
①对大的预测误差有更大的惩罚
②能够容忍很小的误差如观测误差等从而提升模型的泛化能力

更新参数:梯度学习方法(后续详细学习 )

模型选择

欠拟合和过拟合

在这里插入图片描述

正则化

添加参数的惩罚项,纺织模型对数据过拟合
在这里插入图片描述
在这里插入图片描述

奥卡姆剃刀原则

有多个假设模型时,我们应该选择假设条件最少的建模方法。
在这里插入图片描述

交叉验证

在这里插入图片描述
多次交叉验证选择最好的结果对应的超参数,选择好的超参数之后,对整个训练数据进行模型训练,然后用测试数据对模型进行测试。

模型泛化性

在这里插入图片描述
泛化误差:当拥有一个模型f的时候,我们希望能够对于我们已观测到的数据的变量X和希望预测到的变量Y之间做一个全数据空间上的积分,使得对于任何可能出现的X和Y这样的数据,计算f(x)的预测值以及计算相应对于Y标签的损失函数,通过对x,y这样的数据分布的积分,得到根据当前的数据分布,在F(x)条件下,得到与Y值之间的损失函数的期望,即为泛化误差。
在这里插入图片描述

判别模型与生成模型

在这里插入图片描述

判别模型

在这里插入图片描述

生成模型

在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值