qq_39243015的博客

从上一节我们把最大熵原理简化为这样两个条件：模型的分布P(x)P(x)P(x)满足g1(P(x))=∑x=0∞P(x)x=4 (即期望为均值)g_1(P(x))=\sum_{x=0}^{\infty}P(x)x=4\ (即期望为均值)g1​(P(x))=∑x=0∞​P(x)x=4 (即期望为均值)−∑x=0∞P(x)logP(x)-\sum_{x=0}^{\infty}...

最大熵原理（Max Ent），也称最大熵原理（The Principle of Maximum Entropy），同时也称最大熵方法（Maximum Entropy Method）。本入门介绍可以分为两部分。第一部分主要介绍最大熵原理，第二部分主要介绍最大熵如何和机器学习相结合运用到一些实际问题中去。最大熵是由E.T. Jaynes发现的，他把它整理发表在物理学刊物上。他本人有着很高的哲学造诣，...