关于排列熵的一些理解与解释

 

排列熵的主要原理可见链接1与链接2

---

针对这两天学习排列熵的疑问，根据上述理论与链接代码进行理解的基础上，将matlab代码增添了一些注释，使得能详细的说明其原理。

---

此外，需要说明的是。

“(3) 计算每一种符号序列出现的次数除以m!种不同的符号序列出现的总次数作为该重构分量的概率。”

1. 针对于所构建的K行m列矩阵，若取出某一行进行排序，可获得排序后的序列。由于矩阵中任一行的列数为m，m个数进行全排，其排列后的种类应为m！种。
2. 针对矩阵的第1行，对其进行排序，那么此时这个序列应该必定为m！种的1种。
3. 若矩阵的所有行之间排序的索引均不相同，若按照上述总次数的理解，则每行的概率应该为1/(m!)。其实并非如此，因为分母并不是m！，而是“出现的总次数”，未出现的不计算在内。
4. 比如，最简单的，假设矩阵的所有行之间排序的索引均不相同，那么K行矩阵就出现K种排序。总的次数应该为K个1相加。由于均不相同，其频数均为1，则每行的概率应均为1/K。
5. 那么若存在矩阵的所有行之间排序的索引相同的情况下内，我们只需要统计种类。比如K行中的第1和第2行排序后，索引序列相同，那么我们将该索引序列的频数记为2，后续第3行至第K行均不同，则频数均分别为1。此时总的次数依然为K。但是第1种和第2种一共占有2/K。第3行至第K行均占有1/K。
6. 由于占的比重不同，最后利用比重进行求和时，则，该公式中p即为比重。

---

排列熵 matlab代码

%% 主函数调用排列熵函数求时间序列的排列熵值

[m,n]=size(X);  % X为时间序,一行为一个时间序列。

% 相空间重构:eDim为嵌入维数,eLag为延迟时间
% 当X具有多列和多行时，每列将被视为独立的时间序列,该算法对X的每一列假设相同的时间延迟和嵌入维度,并以标量返回ESTDIM和ESTLAG。
[~,eLag,eDim] = phaseSpaceReconstruction(X);

% 求排列熵:pe为排列熵
pe=zeros(1,m);
for i=1:m
    [pe(i),~] = pec(X(i,:),eDim,eLag);
end

%% 排列熵算法
function [pe ,hist] = pec(y,m,t)

%  Calculate the permutation entropy

%  Input:   y: time series;
%           m: order of permuation entropy 嵌入维数
%           t: delay time of permuation entropy,延迟时间

% Output: 
%           pe:    permuation entropy
%           hist:  the histogram for the order distribution

ly = length(y);
permlist = perms(1:m); 
% perms函数可将某个向量生成一个矩阵，利用该向量的内容进行排列。比如本例中的1,2,3,4,...,(m-1),m这个向量。其无序排列的结果有m！种，将m！种排到一个矩阵，为m！*m矩阵

[h,l]=size(permlist);
c(1:length(permlist))=0;
%生成一个1*m！的均为0的向量。其实用zeros更好。c=zeros(1,length(permlist))
    
 for j=1:ly-t*(m-1)
     [~,iv]=sort(y(j:t:j+t*(m-1)));
%对构建的矩阵的每一行进行排列，获得其在原始数据中的索引值(即位置)iv
     for jj=1:h
         if (abs(permlist(jj,:)-iv))==0
%在m！种可能性中遍历所有行，找出是否与该当前的索引值存在相同，若相同，则在0向量c中的jj列上的值+1，结束后，换矩阵的另一行继续找相同的索引值。总计K行。
             c(jj) = c(jj) + 1 ;
         end
     end
 end
hist = c;
c=c(find(c~=0));
%find为找出向量c中的所有的非0统计数的位置。c(find)为利用位置找出C中所有的非0数。即挑出所有的非0数组成向量c。

p = c/sum(c);%统计向量中所有数占的比重。
pe = -sum(p .* log(p));%利用比重进行求和。
end