信息量

凡是在一种情况下能减少不确定性的任何事物都叫做信息。”[4]信息量则是指对这种不确定性的消除程度的多少和大小。这里信息量的概念与人们日常所用概念并不一致，它并不是指传达信息的符号量的多少，也不是简单的信息内容的多少，而是与事物发生的可能性相关的一个相对的量。即：“信息量等于可能性选择的概率对数。”[5]——信息与人们已经形成的对于相关事物发生可能性的预测之间的差异。信息本身对于不确定性的消除或者减少表现在接受者那里。在信息理论中引入了熵的概念，即对象的非组织程度、随机性或不确定性。信息作为一种负熵可以作用于接受者那里的熵。因而，我们大致可以认为，对于信息而言，熵是存在于接受者那里的不确定性，新闻作为信息则是消灭这些熵的工具。对于接受者来说，信息所含的信息量正是与它所能够消灭的头脑中已有的熵成正比。因而信息量是它所能改变的人们已有认识的程度的衡量

转载于:https://www.cnblogs.com/z-bear/p/9667465.html