分享一下我老师大神的人工智能教程!零基础,通俗易懂!http://blog.csdn.net/jiangjunshow
也欢迎大家转载本篇文章。分享知识,造福人民,实现我们中华民族伟大复兴!
近期在路上进行了不少的思考,任何方面,任何领域…我会把这些记录在手机的备忘录里,然后在周末总结出来,早就成了习惯。
近日对信息论,排队论以及贝叶斯定理关注比较多,后二者可以完全改造TCP的拥塞控制机制,所以基础还是要夯实的。本文描述一个基础中的基础,后续我会追加关于对这些基础背后的一些哲学层面上的思考,但由于今天只是周四,就只能到周六了。
有人问一件事发生后所携带的信息量为什么要表示成事件发生概率的对数的形式,我在文章《不知为不知–信息论和最大熵原则》里面的香农的信息论一节中已经回答过了,这里再次列一下:
这里应该说的很明白了。之所以还是有人问,那是因为他们想知道为什么“第三点要求确定了对数关系”,依据是什么?本文我给出一个数学上的说明。
首先把上述三点翻译成数学语言:
设f(x)表示事件A发生时携带的信息量,其中x为事件A发生的概率,则有:通解的试题那可以说是信手拈来啊…
解题归解题,又扯了一些没用的…
如果说本文这个数学推导还是无法让人信服,那么接下来的问题就上升到哲学高度了,问题很简单:对数的本质是什么,为什么人们笃爱对数?
道可道非常道,终极的东西往往是无法表达的,所以就只能举一些例子来理解,这些例子其实就是柏拉图的影子。今天有点晚了,周末时,我会写一篇文章说说我对对数和贝叶斯定理的看法。