作者:Calvin Zhang
链接:https://www.zhihu.com/question/22983179/answer/67748062
来源:知乎
著作权归作者所有,转载请联系作者获得授权。
链接:https://www.zhihu.com/question/22983179/answer/67748062
来源:知乎
著作权归作者所有,转载请联系作者获得授权。
在我们讲无偏估计(unbiased estimator)之前我想先说一个概念,那就是样本统计(Sample Statistics)。
生活中我们需要知道一些数据的时候,常常要统计样本然后推到总体,比如我们想知道全国小学生的平均身高,我们不可能全部测量,我们要取样本,然后通过样本估计总体(全国小学生平均身高)。但是要怎样估计才准确呢,就出现了样本统计。
因为我看到高票答案也是晕晕的。我们举同一个栗子,让你理解什么是无偏估计。
现在甲市有一万名小学三年级学生,他们进行了一次统考,考试成绩服从1~100的均匀分布:00001号学生得1分,00002号学生得1.01分……10000号学生得100分。那么他们的平均分是多少?(1+1.01+1.02+....+100)/10000=50.5,这个值叫做总体期望(现实生活中我们不知道,只能通过样本估计)
给全市的78所小学每一所学校打了一个电话,让他们随机选取一名学生的成绩报上来,这样你就得到了78个学生的成绩,这78个学生就是你的样本。
这是我们取到第一个样本,我们算出样本1的平均数,记作
,
注意不同就在这里,
我们再从新给全市的78所小学每一所学校打了一个电话,让他们随机选取一名学生的成绩报上来,这样你就得到了78个学生的成绩,这是我们取到第二个样本,我们算出样本2的平均数,记作
.
继续,我们继续给全市的78所小学每一所学校打了一个电话,让他们随机选取一名学生的成绩报上来,这样你就得到了78个学生的成绩,这是我们取到第三个样本,我们算出样本3的平均数,记作
.
。
。
。
就这样你一早上打了十遍电话,得到十个样本的平均数,你会发现样本的平均数的分布符合正态分布。 我们就可以用最大似然数估计或距估计求得这个正态分布的期望。
而样本平均数的期望(在这里就是均值),就极其接近总体的期望。我们成为无偏估计(unbiased estimation)
而一次取平均数就说这是总体的平均值的做法就是 偏差估计(biased estimation).
生活中我们需要知道一些数据的时候,常常要统计样本然后推到总体,比如我们想知道全国小学生的平均身高,我们不可能全部测量,我们要取样本,然后通过样本估计总体(全国小学生平均身高)。但是要怎样估计才准确呢,就出现了样本统计。
因为我看到高票答案也是晕晕的。我们举同一个栗子,让你理解什么是无偏估计。
现在甲市有一万名小学三年级学生,他们进行了一次统考,考试成绩服从1~100的均匀分布:00001号学生得1分,00002号学生得1.01分……10000号学生得100分。那么他们的平均分是多少?(1+1.01+1.02+....+100)/10000=50.5,这个值叫做总体期望(现实生活中我们不知道,只能通过样本估计)
给全市的78所小学每一所学校打了一个电话,让他们随机选取一名学生的成绩报上来,这样你就得到了78个学生的成绩,这78个学生就是你的样本。
这是我们取到第一个样本,我们算出样本1的平均数,记作
注意不同就在这里,
我们再从新给全市的78所小学每一所学校打了一个电话,让他们随机选取一名学生的成绩报上来,这样你就得到了78个学生的成绩,这是我们取到第二个样本,我们算出样本2的平均数,记作
继续,我们继续给全市的78所小学每一所学校打了一个电话,让他们随机选取一名学生的成绩报上来,这样你就得到了78个学生的成绩,这是我们取到第三个样本,我们算出样本3的平均数,记作
。
。
。
就这样你一早上打了十遍电话,得到十个样本的平均数,你会发现样本的平均数的分布符合正态分布。 我们就可以用最大似然数估计或距估计求得这个正态分布的期望。
而样本平均数的期望(在这里就是均值),就极其接近总体的期望。我们成为无偏估计(unbiased estimation)
而一次取平均数就说这是总体的平均值的做法就是 偏差估计(biased estimation).