第六章——模型融合

6 模型融合6.1 偏差和方差分布图公式推导:假设从y=f(x)+ϵy = f(x) + \epsilony=f(x)+ϵ采样得到D={(x1,y1),...,(xn,yn)}D = \{(x_1,y_1),...,(x_n,y_n)\}D={(x1​,y1​),...,(xn​,yn​)},ϵ表示噪音\epsilon表示噪音ϵ表示噪音在D上最小化MSE,得到f^\hat{f}f^​。希望在不同的DDD上都能生成一个好的f^\hat{f}f^​公式:因为f是一个真实的东西
摘要由CSDN通过智能技术生成

6 模型融合

6.1 偏差和方差

  • 分布图

    在这里插入图片描述

  • 公式推导:

    1. 假设从 y = f ( x ) + ϵ y = f(x) + \epsilon y=f(x)+ϵ采样得到 D = { ( x 1 , y 1 ) , . . . , ( x n , y n ) } D = \{(x_1,y_1),...,(x_n,y_n)\} D={ (x1,y1),...,(xn,yn)} ϵ 表 示 噪 音 \epsilon表示噪音 ϵ

    2. 在D上最小化MSE,得到 f ^ \hat{f} f^。希望在不同的 D D D上都能生成一个好的 f ^ \hat{f} f^

    3. 公式:
      因 为 f 是 一 个 真 实 的 东 西 , 不 会 随 着 采 样 变 化 而 变 化 , 因 此 E f = f 假 设 噪 音 符 合 一 个 均 值 为 0 , 方 差 为 σ 2 的 正 态 分 布 ϵ 相 较 于 f ^ 时 独 立 的 , 因 此 E ϵ X = E ϵ E X 因为f是一个真实的东西,不会随着采样变化而变化,因此Ef = f \\ 假设噪音符合一个均值为0,方差为\sigma^2的正态分布 \\ \epsilon相较于\hat{f}时独立的,因此E\epsilon X = E\epsilon EX f

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值