关于高阶互信息公式N=3的时候,具体如何推导的问题
-
当N=3 的时候,其公式变为:
I ( X 1 ; X 2 ; X 3 ) = ∑ n = 1 3 ( − 1 ) n + 1 ∑ i 1 < . . . < i n H ( X i 1 , . . . , X i n ) I(X_1;X_2;X_3)= \sum^{3}_{n=1}(-1)^{n+1}\sum_{i_1<...<i_n}H(X_{i_1},...,X_{i_n}) I(X1;X2;X3)=n=1∑3(−1)n+1i1<...<in∑H(Xi1,...,Xin) -
论文中说到的"the summation ∑ i 1 < . . . . < i n H ( X i 1 , . . . , X i n ) \sum _{i_1<....<i_n}H(X_{i_1},...,X_{i_n}) ∑i1<....<inH(Xi1,...,Xin) runs over all of the
combinations of random variables ( i 1 , . . . , i n i_{1},...,i_{n} i1,...,in∈ [1, · · · , 𝑁])." 这句话翻译过来就是说 ∑ i 1 < . . . . < i n H ( X i 1 , . . . , X i n ) \sum _{i_1<....<i_n}H(X_{i_1},...,X_{i_n}) ∑i1<....<inH(Xi1,...,Xin)这个计算要遍历所有的随机组合( i 1 , . . . , i n i_{1},...,i_{n} i1,...,in∈ [1, · · · , 𝑁])。我的理解是遍历的随机组合是在( X 1 , X 2 , X 3 X_1,X_2,X_3 X1,X2,X3)里面遍历的随机组合,而且是根据n的值来决定取几个数进行随机组合,例如当n=1时每次就去一个变量来随机组合,全部组合为H( X 1 X_1 X1),H( X 2 X_2 X2),H( X 3 X_3 X3);当n=2时取两个变量来随机组合,所有随机组合为H( X 1 , X 2 X_1,X_2 X1,X2);H( X 1 , X 3 X_1,X_3 X1,X3);H( X 3 , X 2 X_3,X_2 X3,X2);最后当n=3时,所有的随机组合只有H( X 1 , X 2 , X 3 X_1,X_2,X_3 X1,X2,X3)。所以最后N=3时,公式变为: