本文是小样本概率估算系列的第三篇，介绍了如何利用熵最大假设和贝叶斯公式，结合经验知识优化概率估计。通过数学推导和代码实现，展示了在已知红球概率的情况下，如何计算多次抽样的概率分布。文章讨论了熵最大时的概率分布特点，并指出这种方法适用于各种概率估算场景，同时提到了熵与概率信心的关系。作者提醒读者注意熵最大时分布的指数衰减规律，并探讨了熵、长尾分布和稳定平衡态之间的潜在联系。
我怀着日思夜想的问题，希望你能给我答案，你慷慨的给与我答案，又慷慨的给了我一个新的问题。
导读：
这篇是继前两篇小概率估算的后续，很多地方没有说，建议先粗略看一下前面的，了解一下估算的思路。本文是说当有一个经验知识之后（比如所有球里面红球占到0.01），利用熵最大假设和贝叶斯公式优化m次抽样发生n次时的概率估计。由于公式较多直接从word截图偷个闲。
熵最大时概率分布推导：
【注：拉格朗日乘数法我也忘记得差不多了，在网上找到的例子也主要是只有一个约束条件，这里到两个约束的拓展有点不确定，但是先做了，后面也得到了想要的结果，这里先不管了】
不难发现在 alpha 比较小的时候（比如-100），exp(alpha)无限接近0，方程有两个解alpha=0和alpha=-1/p
最低0.47元/天 解锁文章
扫一扫
7万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
