常用概率分布
多元伯努利分布
可以理解为一次实验包括多个独立伯努利实验,假设输出结果为 X X X, X X X的每一个值都可以是0和1,注意不是one-hot,概率分布为: p ( X ) = ∏ i = 0 n y i x i ( 1 − y i ) ( 1 − x i ) p(X)=\prod_{i=0}^{n}y_i^{x_i}(1-y_i)^{(1-x_i)} p(X)=∏i=0nyixi(1−yi)(1−xi) ,其中 y i y_i yi为每个单独的伯努利实验的参数。
多项分布
多项分布可以理解为伯努利实验的多维扩展,即一次实验不止有两个结果,而是有多个结果,假设输出结果为 X X X,则 X X X为one-hot向量,即多个结果里面只有一个能出现,其概率分布为 p ( x i = 1 ) = π i p(x_i=1)=\pi_i p(xi=1)=πi,即第i个结果出现的概率为 π i \pi_i πi,写成向量形式为 p ( X ) = ∏ i = 0 n π i x i p(X)=\prod_{i=0}^n\pi_i^{x_i} p(X)=∏i=0nπixi,且满足约束 ∑ i = 0 n π i = 1 \sum_{i=0}^{n}\pi_i=1 ∑i=0nπi=1。
------------------------------------------------持续更新中-----------------------------------------------------------------