贝叶斯网络技术简介

在日常生活中,人们往往进行常识推理,而这种推理通常是不准确的。例如,你看见一个头发潮湿的人走进来,你可能会认为外面下雨了,那你也许错了;如果你在公园里看到一男一女带着一个小孩,你可能会认为他们是一家人,你可能也犯了错误。在工程中,我们也同样需要进行科学合理的推理。但是,工程实际中的问题一般都比较复杂,而且存在着许多不确定性因素。这就给准确推理带来了很大的困难。很早以前,不确定性推理就是人工智能的一个重要研究领域。尽管许多人工智能领域的研究人员引入其它非概率原理,但是他们也认为在常识推理的基础上构建和使用概率方法也是可能的。为了提高推理的准确性,人们引入了概率理论。最早由Judea Pearl于1988年提出的贝叶斯网络实质(Bayesian Network)上就是一种基于概率的不确定性推理网络。它是用来表示变量集合连接概率的图形模型,提供了一种表示因果信息的方法。当时主要用于处理人工智能中的不确定性信息。随后它逐步成为了处理不确定性信息技术的主流,并且在计算机智能科学、工业控制、医疗诊断等领域的许多智能化系统中得到了重要的应用。

贝叶斯理论是处理不确定性信息的重要工具。作为一种基于概率的不确定性推理方法,贝叶斯网络在处理不确定信息的智能化系统中已得到了重要的应用,已成功地用于医疗诊断、统计决策、专家系统等领域。这些成功的应用,充分体现了贝叶斯网络技术是一种强有力的不确定性推理方法

一、贝叶斯网络定理

贝叶斯网络是一种概率网络,它是基于概率推理的图形化网络,而贝叶斯公式则是这个概率网络的基础。让我们先来看一看贝叶斯基本公式:

条件概率

图片点击可在新窗口打开查看图片点击可在新窗口打开查看是两个事件,且图片点击可在新窗口打开查看,称

图片点击可在新窗口打开查看

为在事件图片点击可在新窗口打开查看发生的条件下事件图片点击可在新窗口打开查看发生的条件概率。

联合概率

图片点击可在新窗口打开查看图片点击可在新窗口打开查看是两个事件,且图片点击可在新窗口打开查看,它们的联合概率为:

图片点击可在新窗口打开查看

全概率公式

设试验图片点击可在新窗口打开查看的样本空间为图片点击可在新窗口打开查看图片点击可在新窗口打开查看图片点击可在新窗口打开查看的事件,图片点击可在新窗口打开查看图片点击可在新窗口打开查看,…,图片点击可在新窗口打开查看为E的一组事件,满足:①图片点击可在新窗口打开查看;②图片点击可在新窗口打开查看图片点击可在新窗口打开查看,…,图片点击可在新窗口打开查看互不相容;③图片点击可在新窗口打开查看图片点击可在新窗口打开查看。则有全概率公式:

图片点击可在新窗口打开查看

贝叶斯公式

根据1、2和3,很容易推得众所周知的贝叶斯公式:

图片点击可在新窗口打开查看

二、贝叶斯网络的拓扑结构

贝叶斯网络是一个具有概率分布的有向弧段(DAG)。它是由节点和有向弧段组成的。节点代表事件或变量,弧段代表节点之间的因果关系或概率关系,而弧段是有向的,不构成回路。

图1所示为一个简单的贝叶斯网络模型。它有5个节点图片点击可在新窗口打开查看和5个弧段图片点击可在新窗口打开查看组成。图中没有输入的A1节

点称为根节点,一段弧的起始节点称为其末节点的母节点,而后者称为前者的子节点。

图片点击可在新窗口打开查看

图1 简单的贝叶斯网络模型

贝叶斯网络能够利用简明的图形方式定性地表示事件之间复杂的因果关系或概率关系,在给定某些先验信息后,还可以定量地表示这些关系。网络的拓扑结构通常是根据具体的研究对象和问题来确定的。目前贝叶斯网络的研究热点之一就是如何通过学习自动确定和优化网络的拓扑结构。

三、条件独立性假设

条件独立性假设是贝叶斯网络进行定量推理的理论基础。有了这个假设,就可以减少先验概率的数目,简化计算和推理过程。

贝叶斯网络的条件独立性假设的一个很重要的判据就是著名的分隔定理(d-separation)。我们先来看看这个定理。

设A、B、C为网络节点中三个不同的子集,当且仅当A与C间不存在以下情况的路径时,我们称B隔离了A和C,记为D:

所有含有聚合弧段的节点或其子节点是B的元素;

其它节点不是B的元素。

同时满足以上两个条件的路径称作激活(active)路径,否则叫作截断(blocked)路径。这个判据指出,如果B隔离了A和C时,那么可以认为A与C是关于B条件独立的,即:

图片点击可在新窗口打开查看

四、先验概率的确定和网络推理算法

有了条件独立性假设就可以大大简化网络推理计算。但是,与其他形式的不确定性推理方法一样,贝叶斯网络推理仍然需要给出许多先验概率,它们是根节点的概率值和所有子节点在其母节点给定下的条件概率值。

这些先验概率,可以是由大量历史的样本数据统计分析得到的,也可由领域专家长期的知识或经验总结主观给出的,或者根据具体情况事先假设给定。

与其它算法一样,贝叶斯网络推理算法大致也可分为精确算法和近似算法两大类。

理论上,所有类型的贝叶斯网络都可以用精确算法来进行概率推理。但Cooper指出,贝叶斯网络中的精确概率推理是一个N-P难题。对于一个特定拓扑结构的网络,其复杂性取决于节点数。所以,精确算法一般用于结构较为简单的单联网络(Single connected)。对于解决一般性的问题,我们不希望它是多项式次复杂。因而,许多情况下都采用近似算法。它可以大大简化计算和推理过程,虽然它不能够提供每个节点的精确概率值。

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/12993749/viewspace-399612/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/12993749/viewspace-399612/

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
全概率分布可以回答相关领域的任何问题,但随着变量数目的增 加,全概率分布的联合取值空间却可能变得很大。另外,对所有的原 子事实给出概率,对用户来说也非常困难。 若使用Bayes 规则,就可以利用变量之间的条件独立关系简化计 算过程,大大降低所需要声明的条件概率的数目。我们可以用一个叫 作Bayesian 网的数据结构来表示变量之间的依赖关系,并为全概率分 布给出一个简明的表示。 定义(Bayesian 网):Bayesian 网T 是一个三元组(N,A,P),其 中 1. N 是节点集合 2. A 是有向弧集合,与N 组成有限非循环图G =(N,A) 3. P {p(V | ) :V N} v    ,其中 v  代表节点V 的父亲节点集合 Bayesian 网是一个有向非循环图: (1) 网中节点与知识领域的随机变量一一对应(下文中不区分节 点与变量); (2)网中的有向弧表示变量间的因果关系,从节点X 到节点Y 有 向弧的直观含义是X 对Y 有直接的因果影响;影响的强度或者说不确 定性由条件概率表示; (3)每个节点有一个条件概率表,定量描述其所有父亲节点对于 该节点的作用效果。 -2- (4)由领域专家给定网络结构和条件概率表。 )由领域专家给定网络结构和条件概率表。 )由领域专家给定网络结构和条件概率表。 )由领域专家给定网络结构和条件概率表。 )由领域专家给定网络结构和条件概率表。 )由领域专家给定网络结构和条件概率表。 )由领域专家给定网络结构和条件概率表。 )由领域专家给定网络结构和条件概率表。 )由领域专家给定网络结构和条件概率表。 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 对领域专家来说,决定在特中存哪些条件独立联系通常是 较容易的 较容易的 较容易的 (给定网络结构相对容易 给定网络结构相对容易 给定网络结构相对容易 给定网络结构相对容易 给定网络结构相对容易 )─ 事实上,要远比际声明出这 事实上,要远比际声明出这 事实上,要远比际声明出这 事实上,要远比际声明出这 事实上,要远比际声明出这 事实上,要远比际声明出这 事实上,要远比际声明出这 事实上,要远比际声明出这 事实上,要远比际声明出这 些概率本身容易得多 些概率本身容易得多 些概率本身容易得多 些概率本身容易得多 些概率本身容易得多 (给定准确的条件概率相对 给定准确的条件概率相对 给定准确的条件概率相对 给定准确的条件概率相对 给定准确的条件概率相对 给定准确的条件概率相对 困难) 。一旦 。一旦 。一旦 BayesianBayesianBayesianBayesianBayesian Bayesian网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网的拓扑结构给定, 则只需对那些直接相互依赖节点出条件概率网
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值