2.概率密度函数的估计是如何提出的
在贝叶斯决策时,我们进行了两项假设:决策问题是以概率形式提出的;所有相关的概率值都是已知的;但在实际问题中我们往往只能根据样本来估计先验概率与类条件概率密度的值。在实际问题中我们往往只能根据样本来估计先验概率与类条件概率密度的值。所以实际上基于样本的两步贝叶斯应该,首先根据训练样本估计概率密度函数,再根据估计的概率密度函数设计分类器。
3.监督参数估计指的是
1)样本所属类别已知;
2)样本的类条件概率密度函数的形式已知;
3)但参数未知。总结就是已知规律但未知参数。
4.在上述情况下,非监督参数估计有哪些改变
非参数估计事总体概率密度函数的形式已知,但样本所属类别位置,来求解概率密度函数的某些参数。
5.非参数估计有哪些改变
非参数估计又称为非参数检验:是指在不考虑原总体分布,或者不作关于参数假定的前提下,不假定数学模型,直接用已知类别的学习样本的先验知识直接进行统计检验和判断分析的一系列方法的总称。以样本信息对总体分布作出推断,针对总体分布情况做的假设。非参数估计不假定数学模型,可避免对总体分布的假定不当导致重大错误所以常有较好的稳健性。
6.最大似然估计的数学模型
首先假设x1,x2,…,xn为独立同分布的采样,θ为模型参数,f
为我们所使用的模型,遵循上述的独立同分布假设。参数为的模型产生上述采样可表示为:
fx1,x2,…,xnθ=fx1θ×fx2θ×…×f(xn|θ)
回到上面的“模型已定,参数未知”的说法,此时,已知的为,未知的为,故似然函数定义为:
Lθx1,x2…,xn=fx1,x2,…,xnθ=i=1nfxiθ
在实际应用中常用的是两边取对数,得到公式如下:
lnLθx1,x2…,xn=i=1nlnfxiθ
l=1nlnL
其中lnLθx1,x2…,xn称为对数似然,而l
称为平均对数似然。而平时所称的最大似然为最大的对数平均似然,即:
非参数估计的基本思想?有几种解法?如何描述?
通过样本X周围的区域R来估计X的概率密度P(X)
浅浅的水一下1024吧!