1.1模式识别基本概念及贝叶斯决策理论

1.模式识别的组成：信息获取 预处理 特征提取与选择 分类器设计 分类器决策

测量空间：原始数据组成空间称为测量空间；

分类器设计：用一定数量的样本或训练样本集确定出一套分类判别规则；

分类器决策：按照分类规则将待识别模式进行分类判别；

2.贝叶斯决策理论

贝叶斯决策理论的理解：在已有的先验概率的基础上通过信息补充与先验概率进行结合修正得到后验概率。

  2.1基于最小错误率的贝叶斯判别方法

  模式分类中要尽量减少分类错误的概率，利用概率论中的贝叶斯公式能得到使错误率最小的分类规则，这称为基于最小错误率的贝叶斯判别方法。

  

假设问题分两类：

类别为二类

特征矢量x为N维向量

先验概率p(w1) ,p(w2) p(w1) 

条件概率密度为(条件概率)p(xIwi) i=(1....c=2)。

全概率密度为p(x)=sum(p(x∣ω i ) p(x∣ωi)*p(wi))  i=(1....c=2)。

p(ω i ∣x)=p(x∣ω i )p(ω i )p(x) =p(x∣ω i )p(ω i )∑ j=1 c p(x∣ω j )p(ω j