详细推导:https://zhuanlan.zhihu.com/p/153535799
对于LogSumExp(p1, p2)
,输入p1
和p2
一般为log概率,假设对应的原始概率为p1'
和p2'
,那么有:
p
1
=
log
p
1
′
p
2
=
log
p
2
′
p_1=\log p_1' \\ p_2=\log p_2'
p1=logp1′p2=logp2′
我们要计算两个原始概率的和p1'+p2'
,但是一般我们输入的都是log域的概率,LogSumExp
函数的功能就是给定log概率,计算原始概率之和并取log。
log
(
p
1
′
+
p
2
′
)
=
log
(
e
p
1
+
e
p
2
)
=
log
e
p
1
(
e
0
+
e
p
2
−
p
1
)
=
p
1
+
log
(
1
+
e
p
2
−
p
1
)
=
LogSumExp
(
p
1
,
p
2
)
\begin{aligned} \log (p_1'+p_2')&=\log(e^{p_1}+e^{p_2}) \\ &=\log e^{p_1}(e^0+e^{p_2-p_1})\\ &=p_1+\log(1+e^{p_2-p_1}) \\ &=\text{LogSumExp}(p_1, p_2) \end{aligned}
log(p1′+p2′)=log(ep1+ep2)=logep1(e0+ep2−p1)=p1+log(1+ep2−p1)=LogSumExp(p1,p2)
LogSumExp解释
最新推荐文章于 2022-11-08 23:19:41 发布