Variable Elimination Algorithm
Conditional Probability Queries
NP-Hard Problem
在一个概率图模型里,查询一组变量为给定值时的概率是一个NP-HARD问题,不仅如此,降低问题所需答案的精度,仍然是一个NP-Hard问题。因为求解概率分母Z的时候,涉及到众多变量的众多组合情况,需要求的因子太多了。
Sum-Product
条件概率的计算上,虽然分子只是连乘了几个不同的因子,变量后我们可以把与这个变量取值矛盾的部分给删除掉,计算量有所缩减。除此之外,求解条件概率的时候,分子采用联合概率 P ( Y , E = e ) P(Y, E = e) P(Y,E=e),分母采用边缘概率 P ( E = e ) P(E = e) P(E=e),这样这俩概率,在计算时无需求解归一化分母Z,因为Z将会消除。
MAP Inference
实际上MAP就是在求,已经知道 E = e E=e E=e的情况下,除了 E E