freeliao的专栏 在路上奔跑。。。

矩阵的意义非常重要，理解好矩阵对于学习矩阵论、统计学、机器学习等很重要，如何去真正去理解矩阵呢？看了孟岩老师写的理解矩阵系列，受益匪浅！理解矩阵一：转载自：http://blog.csdn.net/myan/article/details/647511前不久chensh出于不可告人的目的，要充当老师，教别人线性代数。于是我被揪住就线性代数中一些务虚性的问题与他讨

信息是一个抽象的概念，表示某个事件、情况或者概率，很难给信息下一个定义。我们常常说信息的多少，这个多少却很难度量。比如我们说一部中文字典到底有多少信息量，一本50多万字的《史记》又有多少信息量。究竟信息背后有没有理论基础呢？在香农信息论诞生以前，我们没有准确的数学方法来描述信息。直到1948年，香农在他著名的论文“通信的数学原理”中提出了“信息熵”的概念，信息的度量问题才得以解决。香农的信息论如今