《数学之美》——第一章 个人笔记

                                            数学之美

最近在读《数学之美》这本书,做一下个人笔记。看的是PDF,看完后会买一本的哦!版权意识还是有的。

ps:图片文字都是这本书中的内容,侵权立删。会有点自己的理解。

第一章    文字和语言 vs 数字和信息



1 信息

通信的原理就是这三个步骤,本质上是一致的,只不过今天的实现形态发生了变化。更技术,更高大上了。


2 文字和数字

语言的越来越丰富,词汇的越来越多,人无法记住所有产生的词汇,所以文字就此诞生,是为了高效记录信息的诉求。

文字也如同语言最初一样,会慢慢的增长。因此,概念的第一次概括和归类就开始了。文中栗子:'日'本意是太阳 ;日初日落代表一天的时间周期,也就是一天。这种概念的聚类,在原理上与今天NLP或者ML的聚类有很大的相似性。

聚类可能会带来歧义,解决办法,就是通过上下文。但是上下文建立的概率模型再好,也有失灵的时候。这是语言从产生伊始就固有的特点。(有篇论文就是从微博上下文来讨论情感分析的。)

地域等因素的差异,导致文字的不同。但文明间需要交流通信,翻译的需求便由此产生。翻译这件事之所以能达成,仅仅是因为不同的文字系统在记录信息上的能力是等价的。

⭐文字只是信息的载体,而非信息本身(总感觉像个套话,哈哈)数字作为载体,现代通信的基础)


⭐⭐作者通过石碑得到的两个指导意义很赞。

罗塞塔石碑上有三种语言:埃及象形文字,埃及的拼音文字,古希腊文。


对NLP的两点指导意义:

①信息的冗余是信息安全的保障,同一内容保存三次,只要有一份完整保留,原始信息就不会丢失,对信道编码有指导意义。

②语言的数据,即语料(做个性化词典的预料?),尤其是双语或者多语的对照语料对翻译至关重要,它是我们从事机器翻译研究的基础。


与文字类似,数字则是物理资源多到爆炸,你要统计一下才知道的情况下诞生的。这里很有意思,⭐今天我们为什么用十进制,因为双手一共有十个指头掰(哈哈)。

十个不够用,进位制就出来了。这是人类的一大飞跃,对数量进行编码了。


(玛雅二十进制,原来太阳纪是这么来的,世界末日?)中国人用‘’个十百千万亿兆‘’,比罗马的编码好多了。(我可以放心说罗马数字很蠢了= =!)

最有效的数字是古印度人发明的‘’阿拉伯数字‘’——0-10,世界通用,原来阿拉伯人=二道贩子!!原谅我的无知。

⭐阿拉伯数字的革命性不仅在于它的简洁有效,而且标志着数字和文字的分离。这在客观上让自然语言的研究和数学在几千年里米有重合的轨迹,而且越走越远


3 文字和语言背后的数学

楔(xie)形文字——一种拼音文字,带到古希腊,古希腊文字母的拼写和读音紧密结合,容易学习,伴随着马其顿人和罗马人的扩张,随后成为了欧亚非大陆语言体系的主体。因此,所有西方的拼音文字称为罗马式的语言(Roman Languages)

象形文字到拼音文字的一个飞跃:对于常用字短,生僻字长,完全符合信息论中的最短编码原理。

原来那时期的口语与今天的白话差别不大(岭南客家话居然基本上保留了古代口语的原貌),但没有纸张,古文就简洁(难刻,龟壳硬= =让我想到了大秦的云梦竹简那老哥—‘喜’),对我们现在人来说就难懂。所以符合今天信息科学(和工程)的一些基本原理,就是在通信时,如果信道较宽,信息不必压缩就可以直接传递;而如果信道很窄,信息在传递前需要尽可能地压缩,然后在接收端进行解压缩。文中用宽带互联网和移动互联网的例子讲的很通俗。

⭐文中的校验码——字母对应数字,数字组成’校验码’,可以进行检验。

文中有个关于语言学的:到底是语言对,还是语法对。NLP的成就确定了前者,作者还用了莎士比亚做说明。




阅读更多
文章标签: 书籍阅读
个人分类: 书籍阅读
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

不良信息举报

《数学之美》——第一章 个人笔记

最多只允许输入30个字

加入CSDN,享受更精准的内容推荐,与500万程序员共同成长!
关闭
关闭