小样本分析（三）

          我怀着日思夜想的问题，希望你能给我答案，你慷慨的给与我答案，又慷慨的给了我一个新的问题。

导读：

这篇是继前两篇小概率估算的后续，很多地方没有说，建议先粗略看一下前面的，了解一下估算的思路。本文是说当有一个经验知识之后（比如所有球里面红球占到0.01），利用熵最大假设和贝叶斯公式优化m次抽样发生n次时的概率估计。由于公式较多直接从word截图偷个闲。

熵最大时概率分布推导：

【注：拉格朗日乘数法我也忘记得差不多了，在网上找到的例子也主要是只有一个约束条件，这里到两个约束的拓展有点不确定，但是先做了，后面也得到了想要的结果，这里先不管了】

不难发现在 alpha 比较小的时候（比如-100），exp(alpha)无限接近0，方程有两个解alpha=0和alpha=-1/p