关于HDMI: High-order Deep Multiplex Infomax论文中高阶互信息公式当N=3时推导问题

文章详细讨论了当N等于3时,高阶互信息的公式推导过程,涉及到了对随机变量的不同组合方式的求和,包括单个变量的熵以及两个或三个变量的联合熵。对于n的值1、2和3,分别解释了如何选取和组合这些变量来计算总和,强调了遍历所有可能的组合的重要性。
摘要由CSDN通过智能技术生成

关于高阶互信息公式N=3的时候,具体如何推导的问题

这是高阶互信息的公式定义

  • 当N=3 的时候,其公式变为:
    I ( X 1 ; X 2 ; X 3 ) = ∑ n = 1 3 ( − 1 ) n + 1 ∑ i 1 < . . . < i n H ( X i 1 , . . . , X i n ) I(X_1;X_2;X_3)= \sum^{3}_{n=1}(-1)^{n+1}\sum_{i_1<...<i_n}H(X_{i_1},...,X_{i_n}) I(X1;X2;X3)=n=13(1)n+1i1<...<inH(Xi1,...,Xin)

  • 论文中说到的"the summation ∑ i 1 < . . . . < i n H ( X i 1 , . . . , X i n ) \sum _{i_1<....<i_n}H(X_{i_1},...,X_{i_n}) i1<....<inH(Xi1,...,Xin) runs over all of the
    combinations of random variables ( i 1 , . . . , i n i_{1},...,i_{n} i1,...,in∈ [1, · · · , 𝑁])." 这句话翻译过来就是说 ∑ i 1 < . . . . < i n H ( X i 1 , . . . , X i n ) \sum _{i_1<....<i_n}H(X_{i_1},...,X_{i_n}) i1<....<inH(Xi1,...,Xin)这个计算要遍历所有的随机组合( i 1 , . . . , i n i_{1},...,i_{n} i1,...,in∈ [1, · · · , 𝑁])。我的理解是遍历的随机组合是在( X 1 , X 2 , X 3 X_1,X_2,X_3 X1,X2,X3)里面遍历的随机组合,而且是根据n的值来决定取几个数进行随机组合,例如当n=1时每次就去一个变量来随机组合,全部组合为H( X 1 X_1 X1),H( X 2 X_2 X2),H( X 3 X_3 X3);当n=2时取两个变量来随机组合,所有随机组合为H( X 1 , X 2 X_1,X_2 X1,X2);H( X 1 , X 3 X_1,X_3 X1,X3);H( X 3 , X 2 X_3,X_2 X3,X2);最后当n=3时,所有的随机组合只有H( X 1 , X 2 , X 3 X_1,X_2,X_3 X1,X2,X3)。所以最后N=3时,公式变为:
    在这里插入图片描述

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值