文中涉及的很多知识都与数学有关,由于我数学水平有限,未能理解,因而在读书笔记中未做摘录。其中包括:
1.隐含马尔可夫模型、
2.布尔代数
3.图论
4.TF-IDF
5.有限状态机和动态规划
6.余弦定理
7.非对称加密算法
8.最大熵模型
9.布隆过滤器
10.马尔可夫链
11.贝叶斯网络
12.条件随机场模型
13.维特比算法
14.期望最大化算法
15.逻辑回归模型
16.分治算法
1.成为一个领域的大师有其偶然性,但更有其必然性。其必然性就是大师们的思维方法。
2.简单性和模块化是软件工程的基石;分布式和容错性是互联网的生命。
3.“有正确设计思想方法的技术”未必能够成功,因为还有其非技术性的因素,但“没有正确设计思想方法的技术”一定失败,无一例外。
4.任何事物的规律性是内存的,并不随它的载体而改变。
5.数学的精妙之处就在于简单的模型可以干大事。
6.我们要搞清楚一件非常非常不确定的事,或是我们一无所知的事情,就需要了解大量的信息。相反,如果我们对某件事已经有了较多的了解,那么不需要太多的信息就能把它搞清楚。所以,从这个角度来看,可以认为,信息量就等于不确定性的多少。
7.信息的作用在于消除不确定性。
8.我一直认为,一个人想要在自己的领域做到世界一流,他的周围必须有非常多的一流人物。
9.大多数时候,很多的历史偶然性背后有着它必然的原因。
10.技术分为术和道两种,具体的做事方法是术,做事的原理和原则是道。
11.在工程上简单实用的方法最好。
12.先帮助用户解决80﹪的问题,再慢慢解决剩下的20﹪问题。
13.许多失败并不是因为人不优秀,而是做事情的方法不对,一开始追求大而全的解决方案,之后长时间不能完成,最好不了了之。
14.计算机不必学习人的做法,就如同飞机不必像鸟一样飞行。
15.一个正确的模型一开始可能还不如一个精雕细琢过的错误模型来的准确,但是,如果我们认定大方向是对的,就应该坚持下去。
16.要保留全部的不确定性,将风险降到最小。
17.最大熵原理指出,需要对一个随机事件的概率分布进行预测时,我们的预测应当满足全部已知的条件,而对未知的情况不要做任何主观假设。
18.语言和文字作为通信的编码手段,一个重要目的是帮助思维和记忆。
19.错误的模型终究是远离真理的,其负面影响会渐渐表现出来。其结果不仅仅在于远离了正确的结果,而且常常把原本简单的事情弄得很复杂,以至于最终要崩溃。
20.正确的理论和方法有一个被认识的过程。任何事物都有它的发展规律,而这些规律都是可以认识的。