喜欢文章?不如来点赞关注吧
统计推断
这一节我们以睡眠为例。假设你通常每晚睡 8 个小时,你突然做了年轻爸爸或者年轻妈妈,你的睡眠时间减少到每晚 5 个小时,这意味着每晚减少 3 个小时,相当于每周 20 个小时,每年 1000 个小时,差不多 40 天。换言之,如果你家宝宝继续保持他 / 她的睡眠时间,一年之后你会比之前少睡 大约 40 天。
回到统计学,想象你想要知道你家乡的年轻父母在孩子刚出生那一年减少了多少睡眠。在这一节中我们将讨论统计推断。我们会基于样本信息,得出关于总体的结论。我们将会区分两种统计推断的方法,一种叫 统计估计 (statistical estimation) ,另一种叫 假设检验 (hypothesis testing) 。在这篇教程中,我们将先了解统计估计。
有两种方式估计总体参数的值,其一叫 点估计 (point estimate) ,它是一个对于总体参数的最佳猜想。其二是 区间估计 (interval estimate) ,它是一个我们预期参数会落在的范围。
想象我们抽取了 60 个受试者样本,有了第一个小孩后每晚减少的睡眠小时数均值为 2.6 小时。这个均值是一个对于总体均值很好的点估计。换言之,
区间估计是一个最有可能包含总体实际参数值的数字区间。基于我们的样本均值 2.6 小时,我们可以预测,比如说,你家乡新生儿父母每晚睡眠减少的平均小时数介于 2.3 小时到 2.9 小时之间。
这个区间包含总体参数值的概率,被我们称为 置信水平 (confidence level) ,置信水平总是一个接近 1 的值,多数情况下是 0.95 。接下来我们将讨论有 95% 置信水平的区间。
已知总体标准差,求均值的置信区间
假设我们知道 60 个年轻父母的样本在第一个小孩出生后睡眠减少小时数的标准差是 0.9 小时,也知道总体的标准差是 1.1 小时。(实践中,不太可能知道这个参数,但这里我们先假定你知道)
这一节中,我们将学习如何基于样本信息和总体的标准差来构造 置信区间 (confidence interval) 。首先,我们来解释一下这样一个置信区间应该如何解读。
为了构造一个置信区间,我们需要用到样本均值的抽样分布。毕竟,我们是在处理一个来自总体的样本。 我们知道,只要样本足够大,抽样分布就是正态分布的,并且均值等于总体的均值,标准差等于总体的标准差除以样本数 n 的平方根。我们还知道,找到距离样本均值少于等于两个标准差的概率是 0.95 。更精确的,如果查询对应概率的 z 分数,我们会得到 -1.96 和 1.96 。
这意味着我们有 95% 的机会令样本均值落在总体均值 1.96 个标准差范围内。 1.96 个标准差的距离我们称为 误差界限 (margin error) 。误差界限告诉我们用样本均值
它是由点估计或者样本均值加减误差界限,即 1.96 个标准差。注意我们是在处理样本均值的抽样分布。因此分布的标准差等于
假设你抽取一个样本,样本均值由某个点表示,从均值往两侧有一根线表示误差界限。它们一起构成了 95% 的置信区间。如果样本均值落在红色区域,则置信区间包含总体均值
现在让我们回到例子。例子中样本均值是 2.6 小时。总体标准差 1.1 。样本容量是 60 ,现在我们有了计算置信区间需要的全部数字。公式如下:
我们知道
如果新生儿父母的这种境况会持续一年,我们有 95% 的信息说,这些人会减少 2.32 乘以 365 小时到 2.88 乘以 365 小时的睡眠时间,或者说, 846.8 小时到 1,051.2 小时,又或者说, 35.3 到 43.8 个整天。
未知总体标准差,求均值的置信区间
95% 置信区间用于评估总体的均值,它告诉我们我们有 95% 的信息这个区间包含实际的总体均值。利用这个公式
这一节中,我们将学习如何在不知道总体参数的情况下做出推断。解决方案是我们估计总体的标准差,因而我们要引入另一个分布,它叫 T 分布 。让我来告诉它如何工作。
想象我们问了 60 个年轻家庭他们在有了第一个孩子之后睡眠时间少了多少个小时,均值是 2.6 小时,标准差是 0.9 小时。为了构建一个 95% 的置信区间,我们需要用到
或者可以写成
因此我们用样本的标准差来估计总体的标准差,公式变成:
我们把
现在让我来详细解释 t 分布和 t 分数。 t 分布跟标准正态分布非常之相似,它是钟形的,对称的,并且均值是 0 。但是,它有一点点区别。 因为我们现在是估计抽样分布的标准差,我们引入了额外的误差。当我们的样本比较小时,这个误差很可观。 t 分布将这小样本的这个误差考虑在内了,因此它比标准正态分布稍微宽一点,标准差更大一些。如下:
黑色的分布是标准正态分布,蓝色的分布是 t 分布。 t 分布的准确形状取决于样本容量。样本越大,t 分布越接近标准正态分布。更准确的说, t 分布的形状取决于单一个参数,我们称为 自由度 (degrees of freedom) ,以
自由度为 5 的 t 分布:
自由度为 30 的 t 分布:
可以看到,当我们有 30 或者更大自由度时, t 分布几乎就等同于标准正态分布。更准确的说,标准正态分布其实就是自由度等于无限的 t 分布。
同标准正态分布和 z 分数一样,我们也可以为特定的 t 分数寻找累积概率。重要的区别在于,这些概率依赖于自由度。当你计算一个 95% 置信区间时,你可以为所有可能的自由度找到对应 95% 置信水平的 t 分数,这个表格称为 t 表格 ,它和 z 表格类似。
让我用睡眠时间的例子来演示。样本中睡眠减少小时数的均值是 2.6 小时,标准差是 0.9 小时,样本容量是 60 。计算 95% 置信区间的公式:
让我们从标准误差开始,它等于样本标准差除以 n 的平方根,即 0.9 除以 60 的平方根,得到 0.116 。我们的标准误差,或者说,估计的样本均值的抽样分布的标准差等于 0.116 。为了计算误差界限,我们需要用标准误差乘以 95% 置信区间的 t 分数。如你所知, t 分数取决于自由度。自由度
因此我们用 0.116 乘以 2.009 ,大约 0.23 。从样本均值 2.6 中加减这个值后,得到我们的置信区间是 2.37 到 2.83 。我们有 95% 的信心认为这个区间包含实际的总体均值。
为了计算总体均值的置信区间,有两个假定需要满足。首先,你的数据是随机获取的。换言之,样本必须是随机样本,否则你的发现就不是合法的。其次,总体必须近似正态分布。这一点可能是个问题,因为总体中的许多变量可能并不是正态分布的。不过,好消息是,采用 t 分布来构造置信区间,可以有效对抗第二个假设破坏。也就是说,即使违反了假设,这种统计方法仍然是健壮的。最后,在基于 t 分布构造置信区间是,你还需要对异常值保持机警。如果数据里有异常值,那么这个方法可能会失效。因此要记得在开始之前检查数据。
我的公众号这里有Swift及计算机编程的相关文章,以及优秀国外文章翻译,欢迎关注~