一、理论简介
贝叶斯决策理论,是主观贝叶斯派归纳理论的重要组成部分。 贝叶斯决策就是在不完全情报下,对部分未知的状态用主观概率估计,然后用贝叶斯公式对发生概率进行修正,最后再利用期望值和修正概率做出最优决策。
二、基本思想
贝叶斯决策理论方法是统计模型决策中的一个基本方法,其基本思想是:
(1)已知类条件概率密度参数表达式和先验概率;
(2)利用贝叶斯公式转换成后验概率;
(3)最后根据后验概率大小进行决策分类。
三、先验概率和后验概率
先验概率P(wi)最直观易懂的理解就是,所谓“先”,就是在事情之前,即在事情发生之前事情发生的概率。是根据以往经验和分析得到的概率。比如抛硬币,我们都认为正面朝上的概率是0.5,这就是一种先验概率,在抛硬币前,我们只有常识。这个时候事情还没发生,我们进行概率判断。所谓的先验概率是对事情发生可能性猜测的数学表示。
后验概率P(wi| X)直观上理解是事情已经发生了,事情发生可能有很多原因,判断事情发生时由哪个原因引起的概率。
四、贝叶斯公式
五、决策判据
贝叶斯决策理论方法,是统计模式识别中的一个基本方法。贝叶斯决策判据,既考虑了各类参考总体出现的概率大小,又考虑了因误判造成的损失大小,判别能力强。贝叶斯方法更适用于下列场合:
(1) 样本(子样)的数量(容量)不充分大,因而大子样统计理论不适宜的场合。
(2) 试验具有继承性,反映在统计学上,就是要具有在试验之前,已有先验信息的场合。用这种方法进行分类时要求两点:
①要决策分类的参考总体的类别数是一定的。例如两类参考总体(正常状态Dl和异常状态D2),或L类参考总体D1,D2,…,DL(如良好、满意、可以、不满意、不允许、……)。
②各类参考总体的概率分布是已知的,即每一类参考总体出现的先验概率P(Di)以及各类概率密度函数P(x/Di)是已知的。显然,0≤P(Di)≤1,(i=l,2,…,L),∑P(Di)=1。
对于两类故障诊断问题,就相当于在识别前已知正常状态D1的概率P(D1)和异常状态D2的概率P(D2),它们是由先验知识确定的状态先验概率。
如果不做进一步的仔细观测,仅依靠先验概率去作决策,那么就应给出下列的决策规则:若P(D1)>P(D2),则做出状态属于D1类的决策;反之,则做出状态属于D2类的决策。
例如,某设备在365天中,有故障是少见的,无故障是经常的,有故障的概率远小于无故障的概率。因此,若无特别明显的异常状况,就应判断为无故障。
显然,这样做对某一实际的待检状态,根本达不到诊断的目的,这是由于只利用先验概率提供的分类信息太少了。为此,我们还要对系统状态进行状态检测,分析所观测到的信息。
六、程序实现
部分代码:
c1 = scatter(d1(:,1),d1(:,2),'.');
hold on;
c2 = scatter(d2(:,1),d2(:,2),'+');
title('两类模式分布图');
legend([c1 c2],'模式1','模式2')
set(gcf,'position',[0 0 500 400]);
完整代码下载链接: