前言:对于数据分析师来说,统计学是必不可少的基础知识。不仅工作中会经常运用其概念,且也几乎是数据分析师工作的面试必考题(尤其是校招以及转行的朋友,当实战经验少的时侯会更关注基础功底是否扎实)。所以我准备开始以较简练的语言,辅以简单易懂案例,总结一些统计学核心的知识点。我们常用的ab实验,其背后的原理就是统计学中的假设检验,今天我们来详细说说假设检验。
一、常用核心概念
什么是假设检验:假设就是对从总体参数(均值、比例等)的具体数值所作的陈述,比如,我认为配方一比配方二的效果要好。而假设检验就是先对总体的参数提出某种假设,然后利用样本的信息判断假设是否成立的过程,比如上面的假设信息我该接受还是拒绝。
什么是显著性水平:显著性水平是一个概率值,原假设为真时,拒绝原假设的概率,表示为α,常取值为0.05、0.01、0.10。一个公司招聘,本来准备招聘100个人,公司希望只有5%的人是混水摸鱼招聘进来,所以可能会有5个人混进来,所谓显著性水平α,就是你允许有多少比例混水摸鱼的能通过测试。
原假设与备择假设:待检验的假设又叫原假设(零假设),一般表示为H0,原假设一般表示两者没有显著性差异。与原假设进行对比的叫备择假设,表示为H1。一般在比较的时候,主要有等于、大于、小于。
检验统计量:即计算检验的统计量。根据给定的显著性水平,查表得出相应的临界值。再将检验统计量的值与该显著性水平的临界值进行比较,得出是否拒绝原假设的结论。
P值:是一个概率值,如果原假设为真,p值是抽样分布中大于或小于样本统计量的概率。左检验时,p值为曲线上方小于等于检验统计量部分的面积。右检验时,p值为曲线上方大于等于检验统计量部分的面积。
假设检验的两种错误:类型 I 错误(弃真),如原假设为真,但否定它,则会犯类型 I 错误。犯类型 I 错误的概率为 α(即您为假设检验设置的显著性水平)。α 为 0.05 表明,当您否定原假设时,您愿意接受 5% 的犯错概率。为了降低此风险,必须使用较低的 α 值。但是,使用的α值越小,在差值确实存在时检测到实际差值的可能性也越小。类型 II 错误(采伪),如原假设为假,但无法否定它,则会犯类型 II 错误。犯类型 II 错误的概率为 β,β 依赖检验功效。可以通过确保检验具有足够大的功效来降低犯类型 II 错误所带来的风险。方法是确保样本数量足够大,以便在差值确实存在时检测到实际差值。
单双测检验:当假设关键词有不得少于/低于的时候用左侧检验,比如灯泡的使用寿命不得少于/低于700小时时;当假设关键词有不得多于/高于的时候用右侧检验,比如次品率不得多于/高于5%时。双侧检验指按分布两端计算显著性水平概率的检验,应用于理论上不能确定两个总体一个一定比另一个大或小的假设检验。一般假设检验写作H0:μ1=μ2。
![4af1e01336afd3f03c7a757e297671eb.png](https://i-blog.csdnimg.cn/blog_migrate/407f2910408eadb2e72f18f4b1dfb91e.jpeg)
![5e546b1cc4026366c4aa5c405958cadf.png](https://i-blog.csdnimg.cn/blog_migrate/3772d7adc5f604d2f09fb6b9c725456f.jpeg)
检验结果:单侧,若p值>α,不拒绝H0,若p值1/2α,不拒绝H0,若p值<1/2α,拒绝H0
二、假设检验方法
假设检验方法:z检验,t检验,卡方检验(卡方本篇不详述,应用较少)
![3c9cb9180822ef00a37a7f98a7f78642.png](https://i-blog.csdnimg.cn/blog_migrate/c67d7c5e6a83efa771338a14b463dd7e.jpeg)
2.1 Z检验
Z检验原理:当总体标准差已知,样本量较大时用标准正态分布的理论来推断差异发生的概率,从而比较两个平均数的差异是否显著。如果检验一个样本平均数与一个已知的总体平均数的差异是否显著,其Z值计算公式为:
![1ac5820a79cf3a3481a940df57c68ea9.png](https://i-blog.csdnimg.cn/blog_migrate/4a02128d3bd0c37395c5e8e37e6ffe53.jpeg)
如果检验来自两个的两组样本平均数的差异性,从而判断它们各自代表的总体的差异是否显著,其Z值计算公式为:
![4da46676ba64051e886b9e6fe8017ffe.png](https://i-blog.csdnimg.cn/blog_migrate/d0853f60e411070a87bae5bf0a7ca02c.jpeg)
Z检验实例:
研究正常人与高血压患者胆固醇含量,比较两组血清胆固醇含量有无显著差异。
正常人组数据:n1=506(样本量) μ1=180.6(样本均值) s1=34.2(标准差)
高血压组数据:n2=142 μ2=223.6 s2=45.8
1、提出假设,规定适当检验统计量,确定检验水平:
H0:μ1=μ2
H1:μ1≠μ2
α=0.05,样本量较大,且检验来自两组样本平均数的差异性,故选择z检验统计量
2、计算统计量z值
将已知数据带入z检验公式,
![e3e02cc1ba6669c1eb48107dbb039fcd.png](https://i-blog.csdnimg.cn/blog_migrate/8cdd1e418dab814a9289d52acba10cd0.jpeg)
计算假设检验统计量 z=10.4
α=0.05,双侧故 α/2=0.025,1-α=0.975 查表,确认临界值为1.96
3、确定p值,做出推断结论
10.4(z值)>1.96(临界值),故p<0.05,按α=0.05水准拒绝H0,接受H1,可以认为正常人和高血压患者的血清胆固醇含量有差异。
2.2 t检验
t检验:分为单样本的t检验、配对样本均数t检验(本篇不详细说)、两独立样本均数t检验。t检验应用于两组计量资料小样本比较,样本对总体有较好代表性,对比组间有较好组间均衡性,即随机抽样和随机分组。且样本来自正态分布总体。单个样本t检验适用于样本均数与已知总体均数μ0的比较,目的是检验样本均数所代表的总体均数μ是否与已知总体均数μ0有差别。应用于总体标准α未知的小样本资料,且服从正态分布。
单样本t检验实例:
某地新生儿出生体重为3.3kg,从该地难产儿中随机抽取35名婴儿,平均体重为3.42kg,标准差为0.4kg,问该地难产儿出生体重与新生儿体重是否不同?
1、提出假设,规定适当检验统计量,确定检验水平:
H0:μ=μ0
H1:μ≠μ0
α=0.05 ,样本均数与已知总体均数μ0的比较,所以选择单样本t检验
2、计算统计量z值
n=35 μ0=3.3 μ=3.42 s=0.4
![33d8a080499c2e1893d47a22553b42b5.png](https://i-blog.csdnimg.cn/blog_migrate/5ca7f55d14dc453a6c6066a0eb06f54c.jpeg)
自由度=n-1=34,α=0.05,双侧故 α/2=0.025,1-α=0.975,自由度34,查表得出临界值为2.032
3、确定p值,做出推断结论
因为1.77(z值)<2.032(临界值),故p>0.05,按α=0.05水平,差别无统计学意义,不拒绝h0,不能认为该地难产儿与新生儿体重有差异。
两独立样本t检验(ab实验背后原理):适用于完全随机设计的两样本均数的比较,其目的是检验两样本所来自总体的均数是否相等。两独立样本t检验要求两样本所代表的总体服从正态分布N(μ1,σ^2)和N(μ2,σ^2),且两总体方差σ1^2、σ2^2相等,即方差齐性。若两总体方差不等需要先进行变换。两独立样本t检验的检验假设是两总体均数相等,即H0:μ1=μ2,统计量计算公式为:
![c7e3816be59a724e116908439747a7b9.png](https://i-blog.csdnimg.cn/blog_migrate/12ee2481a738a1ee6aabc35444a870dc.jpeg)
两独立样本t检验实例:
25例糖尿病患者随机分成两组,甲单纯药物治疗,乙采用药物合并饮食治疗,二月后测空腹血糖如下,问两种疗法血糖值是否相同?
数据:n1=12 s1=182.5 n2=13 s2=141
![e924b5cb930d8c48badd04037407968e.png](https://i-blog.csdnimg.cn/blog_migrate/7f071577c53663b3843c0ac50c831ff4.jpeg)
1、提出假设,规定适当检验统计量,确定检验水平:
H0:μ1=μ2 H1:μ1≠μ2
α=0.05, 选用两独立样本t检验方法
2、计算统计量z值
将数据带入公式,计算得t=2.639
自由度=n1+n2-2=23 α=0.05,双侧故 α/2=0.025,1-α=0.975,查表得临界值为 t=2.069
3、确定p值,做出推断结论
因为2.639(t值)>2.069(临界值) ,故 p<0.05 , 在0.05水准下,拒绝H0,接受H1,存在显著性差异,故认为两种疗法效果不同。
作者:赵小洛 一线互联网公司数据分析师、商业分析师,主刊互联网数据分析相关、方法论、复盘、思考总结。