第三章 最大似然估计和贝叶斯参数估计
第二章的贝叶斯决策论中,在分类之前需要知道一些概率特征,包括类条件概率密度(似然函数)和先验概率。先验概率相对获知是比较容易的,而类条件概率密度就比较困难,原因有两点:
1.训练样本少 2. 特征向量的维数较大,复杂度问题
那如何估计类条件概率密度呢?如果事先知道类条件概率密度的分布,而只是分布的参数不知道,这样就可以把求未知函数转变为求未知参数!比如一条直线函数的参数(斜率),正态分布的参数(均值、方差)。
通过转换,下面的任务就是求参数了,而最大似然估计和贝叶斯参数估计(不是贝叶斯决策)都是对参数进行估计的方法。