自由度(Degree of freedom)
自由度是指统计计量中可自由变化的样本观测值的个数。它等于所用样本观测值的个数减去对观测值的约束条件的个数。
自由度是指变量可以自由取值的个数,例如我们要测量学生的身高X,随机抽取10名同学,没有任何限制,则X可以自由取值的个数为10,自由度为10。
但如果我们限定10名同学的平均身高,那么随机抽取九名同学后,最后一名的身高则不能随意取值了,此时自由度减少1个,自由度为9。
在多元回归中的应用
在多元回归中,对于一个包含K个解释变量的回归方程而言,带估计的参数个数为K+1(包含常数项),在根据最小残差平方和求偏导的过程中,会得到K+1个方程组,所以凡是涉及到残差构成的统计量,自由度就会减少K+1个,例如t和F检验。