最大熵的角度理解指数分布族:
最大熵原理认为,学习概率模型时,在所有的概率模型中,熵最大的模型是最好的模型。指数族分布满足最大熵原理,在满足约束条件下,如果没有更多的信息,则那些不确定的部分概率相等时熵最大。
也就是说在满足已知事实(约束)的情况下指数族分布的熵最大。(离散型)
指数族分布(3)——最大熵角度
最新推荐文章于 2022-08-12 17:11:55 发布
最大熵的角度理解指数分布族:
最大熵原理认为,学习概率模型时,在所有的概率模型中,熵最大的模型是最好的模型。指数族分布满足最大熵原理,在满足约束条件下,如果没有更多的信息,则那些不确定的部分概率相等时熵最大。
也就是说在满足已知事实(约束)的情况下指数族分布的熵最大。(离散型)