动态规划与马尔科夫

2019独角兽企业重金招聘Python工程师标准>>>

动态规划是运筹学的一个分支，是求解决策过程(decision process)最优化的数学方法。多阶段决策过程(multistep decision process)的优化问题时，提出了著名的最优化原理(principle of optimality)。

动态规划必须满足：

最优化原理（最优子结构性质）；无后效性；

贝叶斯（Bayes）统计理论

P（M|D）=P（D|M）P(M)/P(D)；

P（D|M）称为似然比/likehood；P(M)称为先验概率（prior）；P(D)为marginal边际

M：模型，D：数据或证据

一个信号源分别以0.6、0.4的概率发出信号A、B，接收端以图中所示概率接受到信号。现在接受到信号B，要判断系统发出的信号是什么？

熵是对不确定性的一种度量，

均匀分布具有最大的不确定性；熵的变化量可以刻画信息量；

相对熵

转载于:https://my.oschina.net/u/347414/blog/144021