参数估计与假设检验
编辑于2021/12/20 11:42
李鹤年
知识图整理:
当前知识点所涉及的其他知识点:
(1)求期望的时候要会看分布**(均匀分布,泊松分布,拉拉杂杂)**
(2)求导数要会导数,偏导**(高数部分)**
(3)在评选估计的时候涉及到**(大数定理,概率与频率之间的关系)**
当前知识点联系到的其他领域:
(1)机器学习参数的最优选择使用了无偏估计和最大似然估计
主要内容
1.点估计(数三)
矩估计,最大似然估计(重点)
估计量,估计值
人话:使用样本的值猜参数的值 x~E(入) 这里的入就是参数,这里的作用就是确定这个值
估计量大写,估计值小写(题目规范)
矩估计:
原理:用样本矩替换总体矩,本质即是用样本估计整体
题型以及解法:
(1)只有一个参数
鬼话:
a.让均值等于期望
b.让原点矩等于期望的平方
人话:
1/n∑X = EX 或: 1/n∑X = EX
1/n∑X^2 = EX^2 1/n∑(Xi-X)^2 = DX 中心矩
解上面这个方程,求得参数是啥就是啥
最大似然估计:
使似然函数值最大的参数估计(和上面相比就是求函数的极值)
/*
一些对最大似然的理解:
(1)最大似然是对似然函数的极值(什么是似然函数,用人话来说就是随机样本乘对应概率的累乘)
(2)求极值,对于即是导数值为0(为什么要取对数,因为好求导(极值点是不变))
(3)导数没有解不能说明是没有最大值(注意是最大不是极值,所以有解),因为如果导数单调递增,那么最大值就是右边那个θ值,而这个时候题目一般会给出条件,说θ在某个范围(经典的就是小于一堆X,那么θ的最大值就是那一堆X的最小值)
*/
解法流程:
a.写似然函数
b.取对数
c.求导得0,出解(两个参数则偏导)
d.无解则用定义法
有解的情况:
离散题型:
连续题型:
无解的情况:
最大似然不变原理(可能出在选择题)
若θ‘是θ的最大似然估计,f=f(θ)单调,其最大似然为 f(θ’)
双参数题型:
估计量的评选标准(仅数一)
无偏性(数三)
Eθ’=θ
人话:期望等于估计值
有效性:
θ1和θ2都是无偏估计(取方差小的那个D(θ1)<D(θ2))
一致性: