第十二课：贝叶斯网络

一、贝叶斯网络定义

二、通过贝叶斯网络构建联合概率

在贝叶斯网络图中，边代表因果，结点代表变量，举例说明，利用“贝叶斯网络”构建联合概率分布：

• example 1
  S:SPRNKLER
  R:RAIN
  G:GRASS WET
  P(S,R,G)=P( R) *P(S|R)*P(G|R,S)；
  
• example 2
  D: Difficulty
  I: Intelligence
  G: Grade
  S: SAT
  L: Letter
  P(D,I,G,S,L)=P(D)*P(I)*P(G|D,I)*P(S|I)*P(L|G)
  

三、“条件独立与否”的判断方法

• 基础知识
  
  
• Tail to Tail
  蓝色圆圈：表示已知observation
  在这种format中，如果c未知，则a,b不独立；如果c已知，则a,b独立。
  证明：
  left-hand graph:
  
  right-hand graph:
  
  
• Head to tail
  如果c未知，则a,b不独立；如果c已知，则a,b独立；
  证明：
  left-hand graph
  
  right-hand graph
  
  
• Head to Head
  如果c为未知，则a,b相互独立；如果c为已知，则a,b不独立；
  证明：
  left-hand graph:
  
  right-hand graph:
  
  
• 测试题
  在已知c的条件下，判断：
  1）a和b是否相互独立？
  c已知，意味着e已知，则a,f相关联，由于f与b相关联，则a和b相关联；
  2）a和f是否相互独立？
  c已知，意味着e已知，则a,f相关联；
  3）e和b是否相互独立？
  e和b相关联；
  

深入挖掘东西：
VAE（变分词编码器）；
语音识别 CTC loss；
贝叶斯网络结构学习（structure learning）；