熵最简单的衡量尺度是二进制比特。如同物理熵一样,信息熵是一个事件发生概率的对数的负值,这里的对数是以2为底的对数。秩序是可以预测的,因此,一个有序的系统是低信息量、低熵的系统。
2020-11-26
最新推荐文章于 2020-12-26 19:38:18 发布
熵最简单的衡量尺度是二进制比特。如同物理熵一样,信息熵是一个事件发生概率的对数的负值,这里的对数是以2为底的对数。秩序是可以预测的,因此,一个有序的系统是低信息量、低熵的系统。