13 Uncertainty
Outline
不确定性(Uncertainty)
概率(Probability)
语法和语义
推理
独立性及贝叶斯法则
不确定性
一个Agent从不可能完全地确定一个世界或一个领域的状态,因为其中包含太多含糊性和不确定性
可能/概率推理
我已经得到这个证据,这个结论是正确的概率有多少?
我脖子僵硬,那么我得脑膜炎的概率有多大?
假设我们有一个规则:如果牙痛那么问题来源于牙洞
但是不是所有病人的牙痛都是因为有牙洞,所以我们可以像这样设置规则:如果牙痛并且没有牙龈疾病并且没有补牙,并且...,那么问题来源于牙洞
这会让问题更复杂,更好的方法是:如果牙痛,那么问题来源于牙洞的概率是0.8或者P(cavity | toothache) = 0.8
假设行动At为在航班起飞前t分钟前往机场,At能够让我准时到达么?
问题:部分可观察性(路况、其他司机的计划等)、嘈杂的传感器(交通报道)、不确定的行动结果(车轮漏气等)、极复杂的交通建模和预测
逻辑方法:
错误风险:A25可以让我按时到达=>A25可以让我按时到达,前提是没有交通事故、不下雨、轮胎不出问题等(这对于做决策没有太大帮助)
A1440显然可以让我按时到达但是我必须在机场过夜……
真实世界的不确定性和建模
真实不确定性:规则在本质上是有概率性的,如掷骰子、抛硬币
惰性:为了确保得到一个没有任何意外的规则,需要列出前提和结论的完整集合,这个工作量太大,这样的规则也难以使用
理论的无知:没有完整的结论,问题领域并不完整,持续性理论,如医学诊断
实践的无知:即使知道所有的规则,也不可能收集关于一个特定病例的所有相关信息
解决不确定性的方法
概率理论作为一个形式化手段,利用不确定性知识进行表示和推理,在一个命题中(事件、结论、诊断)提供信念度,如A25使我按时到达机场的概率为0.04
概率是不确定性的语言——现代AI的重要核心
概率
概率理论提供了一种方法以概括来自我们的惰性和无知的不确定性
概率断言总结了:
惰性:难以列举例外、条件等;无知:缺少相关事实、初始条件等
主观概率:agent自身知识状态的命题概率,如P(A25 | no reported accidents) = 0.06
没有关于世界的断言
命题因为新条件而改变的概率,如P(A25 | no reported accidents, 5 a.m.) = 0.15
在不确定性情况下做决策
假设我知道:
P(A25能按时到达 | ...) = 0.04;P(A90能按时到达 | ...) = 0.70;P(A120能按时到达 | ... ) = 0.95;P(A1440能按时到达 | ...) = 0.9999
我应该选择什么行动呢?取决于我关于错过航班和等待时间消耗上的偏好
效用理论(Utility theory):对偏好进行表示和推理
决策理论 = 概率理论 + 效用理论
语法
基本元素:随机变量
现实世界中具有不确定性的事件的随机变量,通常以大写开头,如Cavity,Weather,Temperature
与命题逻辑相似:对随机变量赋值来定义可能的世界
布尔随机变量,如Cavity(牙洞)(do I have a cavity?)
离散随机变量,如Weather is one of <sunny, rainy, cloudy, snow>
定义域值必须是穷尽的和互斥的
连续随机变量,如Temp=21.6,同样如 Temp<22.0
基本命题由对一个随机变量赋值构成,如Weather=sunny,Cavity=false(简写为¬ cavity)
复杂命题由基本命题和标准逻辑连接词构成,如Weather=sunny∨ Cavity=false
原子事件:对智能体无法确定的世界状态的一个完整的详细描述
如,若世界只由两个布尔变量Cavity和Toothache构成,那么存在4种不同的原子事件:
Cavity=false∧ Toothache=false;Cavity=false∧ Toothache=true;Cavity=true∧ Toothache=false;Cavity=true∧ Toothache=true
原子事件是互斥和详尽的
概率公理
对任意命题A,B,有
0 ≤ P(A) ≤ 1
P(true) = 1 and P(false) = 0
P(A ∨ B) = P(A) + P(B) - P(A ∧ B)
先验概率
命题的先验或无条件概率:在没有任何其它信息存在的情况下关于命题的信度
概率分布给出一个随机变量所有可能取值的概率,P(Weather) = <0.72,0.1,0.08,0.1> (normalized(归一化的) , i.e., sums to 1)
联合概率分布给出一个随机变量集的值的全部组合的概率,P(Weather,Cavity)=a, 4×2 matrix of values
连续变量的概率
将分布表示为值的参数化函数:P(X=x)=U[18,26](x) = 18和26之间的均匀密度分布
高斯函数...
边缘概率分布
边缘概率分布是消除变量后的子表
边缘化(求值消元):联合相同行的加和值:P(X1=x1)=∑P(X1=x1,X2=x2)
条件概率
条件概率或后验概率:P(a | b)
如P(cavity | toothache) = 0.8
条件概率分布:
P