你还记得高中的对数函数吗?

国际顶尖数学家/天文学家夏志宏老师的课程《大数据分析的数学原理》第七讲《信息量、熵》已经于3月17日14:00上线我们的学习社区青青社区啦,接下来让我们一起看看主要讲解了哪些有趣的内容吧!

 

 

首先夏老师提了这样一个问题:世界上有很多随机事件,当你看到一个随机事件的结果以后,你得到了多少的信息量呢?比如,扔硬币或扔骰子,我们从每一次扔的过程(一个过程就是一个随机事件)中能获得多少信息呢?

要得到这个量化的信息量,我们要有两个最基本的性质。其中一个性质就是:概率越大,信息量越小。假如某个事件肯定会发生,比如说太阳的升起,其实我们没有得到任何信息,因为这个是百分百会发生的一个事件,我们知道每天太阳会升起。

 

再举一个扔硬币的例子。假如给你一个特殊的硬币,这个硬币怎么扔都是正面。你现在扔一次得到了正面,那这个时候你得到的信息量是0,也就是说这个对你获得信息没有任何帮助。对你来讲,去取得一个肯定会发生的事的信息,你是没有什么兴趣的。

相反,假如一个事件的发生概率很小,如果它突然一下发生了,你就会非常惊讶、兴奋。从信息学的角度来讲的话,它的信息量就很大。假如这个事发生的概率几乎是0的话,如果它发生了,你得到的信息量就几乎是无穷大

 

第二个性质是,如果两个独立事件同时发生,那信息量是可以相加的。

比方说这两个独立事件:假如你一只手在扔硬币,另外一只手在扔骰子。然后我告诉你硬币是正面,骰子是4,这两个信息量同时发生了以后信息量应该是多大呢?这个时候的信息量就是把它们俩的信息量加在一起。

而满足这两个性质的函数只有我们在高中所学的对数函数。

至于为什么只有对数函数才满足这两个性质,小桃在这里就卖个关子,大家可以去青青社区上看夏老师的详细解释(才不是因为小桃怕解释错了呢……)。

 

 

除了信息量这一个知识点,这一课还讲了关于信息熵测度熵的知识,每一个点夏老师都举了很生动形象的例子,所以完全不用担心听不懂啦!最新一讲已经于3月17日14:00上线青青社区,课程公益免费,想看更多有趣的例子就赶紧扫码进群观看吧。

(欢迎转载,转载请注明出处:https://blog.csdn.net/LUOJM527725/article/details/104997461

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值