实验三 最小错误率的贝叶斯分类
实验目的
通过本次实验的学习,使学生了解或者掌握模式识别中利用贝叶斯后验概率确定分类的方法,,能够实现模式识别中的分类,学会运用已学会的先导课程如数据结构和算法设计知识,选取合适的数据结构完成算法的设计和程序的实现,通过实验牢固掌握模式识别课程内容知识。
实验原理
贝叶斯原理
计算事件 A 在事件 B 下的条件概率时,可以计算 P(A|B)=P(AB)/P(B), 又因为条件概率公式 P(AB)= P(B|A)*P(A),所以可得 P(A|B)= P(B|A)*P(A)/P(B) 。而在一个样本空间中,事件 B 可以划分成几个部分,例如下图中事件B可以分为AB同时发生和 A’B 同时发生两种情况,它们共同组成了事件 B ,所以事件 B 的概率还可以表示成 P(B)=P(AB)+P(A’B)。
根据条件概率公式对 P(AB) 和 P(A’B) 变形可以便得到贝叶斯公式:在上述贝叶斯公式中,我们将事件 B 看作事件 A 和 A’ 发生的情况下产生的结果,于是贝叶斯公式便可以简单的理解成已知结果发生时求导致结果的某种原因的概率。
贝叶斯推论
贝叶斯公式经过变形可以得到贝叶斯推
在这个式子中,把 P(A) 称为 " 先验概率 " ( Prior probability ),即在 B 事件发生之前,对 A 事件概率的一个判断,也就是根据以往经验和分析得到的概率。P(A|B) 称为 " 后验概率 " ( Posterior probability ),即在 B 事件发生之后,对 A 事件概率的重新评估,后验概率是基于新的信息,修正原来的先验概率后所获得的更接近实际情况的概率估计。先验概率和后验概率是相对的。如果以后还有新的信息引入,更新了现在所谓的后验概率,得到了新的概率值,那么这个新的概率值被称为后验概率。
P(B|A)/P(B) 称为 " 可能性函数 " ( Likelyhood ),这是一个调整因子,使得预估概率更接近真实概率
实验问题
设有19人进行体检,结果如下表。但事后发现4人忘了写性别,试问,这4人是男是女?
序号 |
身高 |
体重 |
性别 |
序号 |
身高 |
体重 |
性别 |
1 |
170 |
68 |
男 |
11 |
140 |
62 |
男 |
2 |
130 |
66 |
女 |
12 |
150 |
64 |
女 |
3 |
180 |
71 |