独立性检验

转载 2015年07月09日 16:19:02

假设检验

假设检验(Test of Hypothesis)又称为显著性检验(Test of Ststistical Significance)。

在抽样研究中,由于样本所来自的总体其参数是未知的,只能根据样本统计量对其所来自总体的参数进行估计,如果要比较两个或几个总体的参数是否相同,也只能分别从这些总体中抽取样本,根据这些样本的统计量作出统计推断,籍此比较总体参数是否相同。由于存在抽样误差,总体参数与样本统计量并不恰好相同,因此判断两个或多个总体参数是否相同是一件很困难的事情。

基本的解决方法是:根据问题的需要对所研究的总体作某种假设,记作H0;选取合适的统计量,这个统计量的选取要使得在假设H0成立时,其分布为已知;由实测的样本,计算出统计量的值,并根据预先给定的显著性水平进行检验,作出拒绝或接受假设H0的判断。常用的假设检验方法有u—检验法、t—检验法、χ2检验法、F—检验法,秩和检验等。

χ2独立检验

χ2检验是一种无参数的假设检验。

考虑这以一个问题:某地区有10000合法选民,现统计了男性和女性分别有多少人参加了投票。

 

		Men	Women
_____________________________
Voted		2792	3591
Didn't vote	1486	2131

问“性别”和“投票”是不是相互独立的?

下面就使用假设检验的方法解决这个问题。

我们假设H0:性别和投票相互独立。备选假设H1:性别与投票相关。

计算上表的行和与列和。

 OBSERVED TABLE
		  
		Men	Women 	Total
_____________________________ |______
Voted		2792	3591  |	6383
Didn't vote	1486	2131  |	3617
_____________________________________
Total		4278	5722  |	10000

原始表中的数据用Aij表示,行和用A表示,列和用A·j表示,全部元素的和用A··表示。

投票的概率:

选民为男性的概率:

在H0下,我们认为投票与性别无关,所以男性参加投票的概率为:

p(m,v)=p(m)p(v)=0.6383*0.4278=0.2731

这样可以算出男性投票的期望值为:0.2731*10000=2731。于是得到如下期望表:

	  EXPECTED TABLE
		  
		Men	Women 	Total
_____________________________ |______
Voted		2731	3652  |	6383
Didn't vote	1547	2070  |	3617
_____________________________________
Total		4278	5722  |	10000

观察值与期望值的差值为误差,对于每一个观察值我们计算误差的平方与期望值的比值。

c11 = (2792-2731)^2/2731
c12 = (3591-3652)^2/3652
c21 = (1486-1547)^2/1547
c22 = (2131-2070)^2/2070

χ2=c11+c12+c21+c22=6.584283457

定义自由度为(rows-1)*(cols-1),在我们的例子中自由度为1。

查表:

Degrees of
 freedom	99%  ...	10%	5%	1%
_____________________________________________________
1		0.00016		2.71	3.84	6.64
2 		0.020		4.60	5.99	9.21

由于χ2介于3.84和6.64之间,所以P值介于5%和1%之间,也就是说我们接收假设H0的把握还不到5%,因此拒绝它。

CHI-Square独立检测公式:

自由度DF=(r-1)*(c-1),r表示行数,c表示列数

期望值,nr是行和,nc是列和,n是所有元素的和。

统计量,Or,c是观察值

由(3)式可以推出,对于一个2×2的contigency table,χ2统计量可以由(4)式来计算。



基于χ2的特征项选择

既然χ2统计量可以独立性检验,从独立性检验的对立面来考虑,χ2统计量也可以用来作相关性的度量。χ2越小说明变量之间越独立,χ2越大说明变量之间越相关。

  文档类别Cj Cj的补集
词条w a b
w的补集 c d

a表示词条w在类别Cj中出现的频数;b表示词条w在Cj以外的其他类别中出现的频数;c表示除w以外的其他词条在Cj中出现的频数;d表示除w以外的其他词条在除Cj外的类别中出现的频数。

利用公式(4)计算每个词条对于每种分类的χ2统计量,记为χ2(w,Cj)。说明词条与分类正相关;说明词条与分类负相关。

则词条对整个语料库的记χ2值为

根据(5)式计算每个词条的平均χ2值,选最大的K个作为特征项。


秩和检验

秩和检验也是一种无参数的假设检验。它从两个未知分布的总体中独立、随机地抽取容量分别为n1、n2的样本,设n1<n2。然后把两个样本混合在一起进行排序,得到每个样本单位的秩次。当几个数据的大小相同秩次却不相同时,最终的秩次取其算术平均。 

数据: 5 6 6 7 7 8 8 9 10 10 11
秩号: 1 2.5 2.5 4.5 4.5 6.5 6.5 8 9.5 9.5 11

红颜色的数据来自一个总体,黑颜色的来自另一个总体。n1=5,n2=6。

原假设:两个总体服从相同的分布。

备选假设:两个总体服从不同的分布。

总体Ⅰ的秩和   T=2.5+4.5+6.5+6.5+9.5=29.5

取显著水平α=0.05,进行双侧检验,查“秩和检验表”,n1=5,n2=6,得临界值T1(α)=20,T2(α )=40。
20<29.5<40,样本落入接受域,所以接受原假设。


相关文章推荐

独立性检验

本文给出基于两种统计量的假设检验,来检验变量间是否独立--χ2与秩和。χ2越小说明越独立。你可能会参考另一篇博客相关性检验。 假设检验 假设检验(Test of Hypothesis)又称为显著性检验...
  • myl1992
  • myl1992
  • 2015年05月06日 09:17
  • 305

用Matlab演示波的独立性传播理

  • 2014年06月21日 20:50
  • 13KB
  • 下载

独立性课程笔记

两个事件的独立性

多版本软件的独立性问题研究

  • 2012年01月28日 17:00
  • 188KB
  • 下载

上位机管理程序中的软件独立性

只要做硬件产品的公司,必然要编写各种管理软件,处理与硬件的协议,485,TCP。等等 。传输数据时总是要定义结构体的,于是这类项目中,基本都是硬件说了算,而软件往往成了悲哀的附庸,而往往软件的复杂性就...
  • qoushui
  • qoushui
  • 2011年12月27日 18:35
  • 594

软件工程之信息隐蔽与模块独立性

最近看软工视频,老师提出了一个问题:信息隐蔽与模块独立性的联系,一开始我也不知道什么是信息隐蔽,模块独立还是略知一二,于是查了一下,自己总结了一些这二者之间的关系,与大家share!        ...

数理逻辑:证明论初步(1)公理无 矛盾性与独立性问题的提法

6.01 公理无矛盾性与独立性问题的提法 6.02 简单因子和简单项 6.03 初始真公式 6.04 算子1,2,3 6.05 正规公式 6.06 关于正规公式的若干引理 6.07重复使用算子1,2,...
  • zzwu
  • zzwu
  • 2012年11月27日 18:31
  • 1241

为提高系统Nucleus OS 模块间的独立性,对Nucleus Webserv模块分析和优化的归纳

1、Nucleus Webserv分析及归纳 子文件夹:Inc、SRC (1)名字对比 Inc: NU_WEBSR.H 包含了所有Webserv下的头文件和Nucleus OS基础的头文件; ps_p...

闭包的深入理解——闭包形成的独立性

闭包的深入理解 一:引子 function makePowerFn(power){ function powerFn(base){ console.log(power); return M...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:独立性检验
举报原因:
原因补充:

(最多只允许输入30个字)