吴军信息论40讲_得到日课-《信息论40讲》_吴军 【01-10】

【20200702】发刊词/导论01-03

【20200703】04-06

【20200706】

【07 哈夫曼信息编码】

● 我从来不排斥尝试新东西，这样就不会失去机会，我尝试过的事情远比外界知道的多，只是绝大部分失败了，我没有继续罢了，大家也就无从知晓。

● 对于花了一些精力，看样子做不成的事情，我是坚决做减法止损，这样可以把最多的资源投入到我擅长的，有兴趣的，可能也是成功率最高的事情上。

【08 象形文字和拼音文字是如何演化的？】

●无论是象形文字还是天然形成的拼音文字，都通过两到三个维度的矢量化兼顾了读音和达意的关系。但是，如果强制将中文拼音化，它将失去达意的功能，这不符合信息论的原则，因此做不下去。世界上人为想做的，但违背规律的事情，做起来总是困难重重。

● 在矢量化的生活中，学会平衡便利性和信息的完整性。

【09 冗余度：《史记》和《圣经》哪个信息量大？】

● 冗余度，描述信息的“密集”和“稀疏”。

● 小说的冗余度一般都比较高，一是便于理解；二是在语言上消除了很多歧义性；三是带来信息的容错性。

●  信息冗余的问题：一是存储和传递信息时的浪费；二是如果在信息中混有噪音，过多没用的信息可能会导致错误；

● 善用信息冗余：讲东西要有一致性，不要补充有可能和主要思想相矛盾的例子，或者与想法无关的冗余信息；在脑子存储信息时，要进行压缩，这样脑子才记得住事情；读书，把书读薄，去掉冗余信息，读书的不求甚解，是独处主线，过滤掉部分细节。

『当讲解一个相对复杂的概念时，先用简洁凝练的语句描述一遍(通过压缩信息，让对方抓住核心要点，使概念的表达深入本质，节省时间)，再通过通俗的例证和比喻，增加冗余，来降低理解的难度。』

【10 等价性：信息是如何压缩的？】

● 信息压缩的基本原理：找到周期性信号的等价信息，压缩，复原。

● 生活中的例子：[核磁共振：外加磁场，和人体的水分氢原子产生共振脉冲，提取振动信息，画出人体结构]