随机比特序列的熵检测

  随机比特序列是指由0,1两种二进制值构成的序列。语音信号在一定程度上可以理解为是一维的随机序列，对于编解码器编码后的.dat文件便是一种比特序列。有的时候需要分析这种比特序列的一些特性，需要用到一些评价方法。

一、熵

    熵原本是反应一个系统混乱程度的一个物理量，但是香农在开创信息论这门学科是，将其赋予了新的含义，其定义如下：

可以看到，信息论中的熵与物理中的熵在计算上很类似。

下面举个例子：

二、熵检测

熵检测就是取得序列的熵值，但是对于比特序列来说计算熵值似乎无从下手，因此引入了{00,01,10,11}四种模式或者{000,001,010,011,100,101,110,111}八种模式。对于一个随机比特序列计算这四种序列的概率，从而计算熵值即可。

double getEntropy(char *data,int len,double *en