常用概率分布

常用概率分布

多元伯努利分布

可以理解为一次实验包括多个独立伯努利实验，假设输出结果为$X$，$X$的每一个值都可以是0和1，注意不是one-hot，概率分布为：$p(X)={\prod }_{i=0}^n{y}_i^{x_i}(1-y_i{)}^{(1-x_i)}$ ，其中$y_i$为每个单独的伯努利实验的参数。

多项分布

多项分布可以理解为伯努利实验的多维扩展，即一次实验不止有两个结果，而是有多个结果，假设输出结果为$X$,则$X$为one-hot向量，即多个结果里面只有一个能出现，其概率分布为$p(x_i=1)={\pi }_i$，即第i个结果出现的概率为${\pi }_i$，写成向量形式为$p(X)={\prod }_{i=0}^n{\pi }_i^{x_i}$，且满足约束${\sum }_{i=0}^n{\pi }_i=1$。

------------------------------------------------持续更新中-----------------------------------------------------------------