n折交叉验证结果中的+-怎么算的? 标准差?有偏估计?无偏估计?

n折交叉验证的结果怎么写

在这里插入图片描述
Q:这种实验结果里的±是怎么写出来的呢?
A:均值± 标准差

标准差

百度标准差的时候,发现了这两个公式。差别是,后者是无偏估计量。
在这里插入图片描述

无偏估计

那么什么是无偏估计呢?下面三个链接很好的解释了:
为什么分母从n变成n-1之后,就从【有偏估计】变成了【无偏估计】?
为什么样本方差(sample variance)的分母是 n-1?
为什么样本方差(sample variance)的分母是 n-1?
下面自己总结总结~

个人理解:

  1. 首先,我们要看看方差是怎么计算的: E [ 1 n ∑ i = 1 n ( X i − μ ) 2 ] = σ 2 \mathbb{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}\right]=\sigma^{2} E[n1i=1n(Xiμ)2]=σ2
  2. 此时候是无偏估计的,但当我们用 X ˉ \bar{X} Xˉ替换 u u u后,将倾向于低估方差
    1 n ∑ i = 1 n ( X i − X ˉ ) 2 = 1 n ∑ i = 1 n [ ( X i − μ ) + ( μ − X ˉ ) ] 2 = 1 n ∑ i = 1 n ( X i − μ ) 2 + 2 n ∑ i = 1 n ( X i − μ ) ( μ − X ˉ ) + 1 n ∑ i = 1 n ( μ − X ˉ ) 2 = 1 n ∑ i = 1 n ( X i − μ ) 2 + 2 ( X ˉ − μ ) ( μ − X ˉ ) + ( μ − X ˉ ) 2 = 1 n ∑ i = 1 n ( X i − μ ) 2 − ( μ − X ˉ ) 2 \begin{aligned} \frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\bar{X}\right)^{2} &=\frac{1}{n} \sum_{i=1}^{n}\left[\left(X_{i}-\mu\right)+(\mu-\bar{X})\right]^{2} \\ &=\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}+\frac{2}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)(\mu-\bar{X})+\frac{1}{n} \sum_{i=1}^{n}(\mu-\bar{X})^{2} \\ &=\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}+2(\bar{X}-\mu)(\mu-\bar{X})+(\mu-\bar{X})^{2} \\ &=\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-(\mu-\bar{X})^{2} \end{aligned} n1i=1n(XiXˉ)2=n1i=1n[(Xiμ)+(μXˉ)]2=n1i=1n(Xiμ)2+n2i=1n(Xiμ)(μXˉ)+n1i=1n(μXˉ)2=n1i=1n(Xiμ)2+2(Xˉμ)(μXˉ)+(μXˉ)2=n1i=1n(Xiμ)2(μXˉ)2
    从公式可以看出,除非均值 X ˉ \bar{X} Xˉ与期望 u u u是相等的,否则会导致对方差的低估。
  3. 我们也可以通过一个例子说明为什么样本均值 X ˉ \bar{X} Xˉ与期望 u u u是不相等的:掷骰子,点数的期望是 3.5, 是一个确定的数字,但是实际投掷n次取平均并不一定等于3.5。
  4. 因此,为了不要低估方差,就把分母从 n n n换成 n − 1 n-1 n1。具体来说,需要用一个 n n − 1 \frac{n}{n-1} n1n的因子来进行修正:
    E ( S 1 2 ) = 1 n ∑ i = 1 n E ( ( X i − X ˉ ) 2 ) = 1 n E ( ∑ i = 1 n ( X i − μ + μ − X ˉ ) 2 ) = 1 n E ( ∑ i = 1 n ( ( X i − μ ) 2 − 2 ( X i − μ ) ( X ˉ − μ ) + ( X ˉ − μ ) 2 ) ) = 1 n E ( ∑ i = 1 n ( X i − μ ) 2 − 2 ∑ i = 1 n ( X i − μ ) ( X ˉ − μ ) + n ( X ˉ − μ ) 2 ) = 1 n E ( ∑ i = 1 n ( X i − μ ) 2 − 2 n ( X ˉ − μ ) ( X ˉ − μ ) + n ( X ˉ − μ ) 2 ) = 1 n E ( ∑ i = 1 n ( X i − μ ) 2 − n ( X ˉ − μ ) 2 ) = 1 n ( ∑ i = 1 n E ( ( X i − μ ) 2 ) − n E ( ( X ˉ − μ ) 2 ) ) = 1 n ( n Var ⁡ ( X ) − n Var ⁡ ( X ˉ ) ) = Var ⁡ ( X ) − Var ⁡ ( X ˉ ) = σ 2 − σ 2 n = n − 1 n σ 2 \begin{aligned} E\left(S_{1}^{2}\right) &=\frac{1}{n} \sum_{i=1}^{n} E\left(\left(X_{i}-\bar{X}\right)^{2}\right)=\frac{1}{n} E\left(\sum_{i=1}^{n}\left(X_{i}-\mu+\mu-\bar{X}\right)^{2}\right) \\ &=\frac{1}{n} E\left(\sum_{i=1}^{n}\left(\left(X_{i}-\mu\right)^{2}-2\left(X_{i}-\mu\right)(\bar{X}-\mu)+(\bar{X}-\mu)^{2}\right)\right) \\ &=\frac{1}{n} E\left(\sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-2 \sum_{i=1}^{n}\left(X_{i}-\mu\right)(\bar{X}-\mu)+n(\bar{X}-\mu)^{2}\right) \\ &=\frac{1}{n} E\left(\sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-2 n(\bar{X}-\mu)(\bar{X}-\mu)+n(\bar{X}-\mu)^{2}\right) \\ &=\frac{1}{n} E\left(\sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-n(\bar{X}-\mu)^{2}\right) \\ &=\frac{1}{n}\left(\sum_{i=1}^{n} E\left(\left(X_{i}-\mu\right)^{2}\right)-n E\left((\bar{X}-\mu)^{2}\right)\right) \\ &=\frac{1}{n}(n \operatorname{Var}(X)-n \operatorname{Var}(\bar{X})) \\ &=\operatorname{Var}(X)-\operatorname{Var}(\bar{X})=\sigma^{2}-\frac{\sigma^{2}}{n}=\frac{n-1}{n} \sigma^{2} \end{aligned} E(S12)=n1i=1nE((XiXˉ)2)=n1E(i=1n(Xiμ+μXˉ)2)=n1E(i=1n((Xiμ)22(Xiμ)(Xˉμ)+(Xˉμ)2))=n1E(i=1n(Xiμ)22i=1n(Xiμ)(Xˉμ)+n(Xˉμ)2)=n1E(i=1n(Xiμ)22n(Xˉμ)(Xˉμ)+n(Xˉμ)2)=n1E(i=1n(Xiμ)2n(Xˉμ)2)=n1(i=1nE((Xiμ)2)nE((Xˉμ)2))=n1(nVar(X)nVar(Xˉ))=Var(X)Var(Xˉ)=σ2nσ2=nn1σ2
    这个公式还是写的很清楚,很好理解~

补充:很多资料都提到了自由度这一概念,“自由度”来源于卡方分布,表示 n n n个正态随机变量的平方和,链接里讲的比较清楚,不过我看不懂,就不在这里深入了。

  • 5
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 4
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值