machineLearnig --zhihuazhou

绪论：

1.没有免费的午餐定理 NFL：（No Free Lunch Theorem）
NLF讲的是在不考虑具体问题的情况下，没有任何一个算法比另一个算法更优，甚至没有胡乱猜测更好。
不存在一个与具体应用无关的，普遍适用的“最优分类器”
学习算法必须要作出一个与问题领域有关的“假设”，分类器必须与问题域相适应。
但是，NFL定理的前提是，所有问题出现的机会相等、或所有问题都是同等重要。但是现实中，我们往往会得到特定的数据，特定的分布，解决特定的问题，所以我们只需要解决自己关注的问题，而不需要考虑这个模型是否很好的解决其他的问题。只有对于特定的问题，我们比较不同模型的才有意义。
不仅是机器学习，我们在做其他算法的时候也是这样，如果不考虑实际解决的问题，很难说算法的优劣。【一个萝卜一个坑，总有一个特定的实例是适合一个特定的算法的，所以所有算法不能一概而论好与坏，只有将算法放于具体环境中，才能知道对不同算法有一个优劣比较，否则所有算法都是一样好的】。

2.通用解题程序
通用解题程序，美国心理学家A·纽厄尔、H·A·西蒙、J·C·肖，根据心理学实验发现的人类思维的某些共同规律，于1959年编制的适于解决许多问题的计算机程序。实验表明，人在解决各种不同问题时有三个共同点：一是先要想出大致的解题计划，二要根据理论和推理规则组织解题，三要进行“方法——目标分析”。这三者中，“方法——目标分析”是思维中最活跃最常用的方法，因此GPS着重从四个方面来模拟：(1)转换，即把总目标转换成若干个较为简单的子目标，把复杂问题转化为若干个简单的子问题；(2)消除差别，即把求解作为消除初始状态和目标状态之间的差别的过程；(3)运用算子，即把解题的理论、推理方法与步骤等形式化为符号的运算与代换过程，以达到逐步消除差别的目的；(4)选择匹配，即在进行转换、消除差别、运用算子时都要注重选择，选择得好，匹配得上，就能达到目的，否则就进行再选择。利用GPS，电子计算机解决了所谓“教士与野人问题”(3个传教士和3个野人来到河边，有一条船可供1人或2人乘渡，怎样利用这条船渡河，才能使得河岸两侧野人的数目总不超过传教士的数目)，还解决了其他复杂程度相近的10多种不同的问题。纽厄尔、西蒙把带有GPS的计算机和某个原型(人)进行对比，发现两者相当吻合。因此他们认为；“通用解题程序是某一类思维和问题求解行为的信息加工理论的一次相当成功的逼近。‘思维’过程从此不应再被认为是完全神秘的了”。但是GPS并不能解决更为复杂的问题，这是因为程序本身占用了计算机相当大的存储，而问题求解时生成的新数据又很快耗尽了剩余的存储。 【根据人的思维方式设计了计算机程序，即使用编程来实现原本需要人手工完成的动作，并且他们解决了一些数学问题】。

3.逻辑理论家
逻辑理论家是问题解决计算机模拟程序。美国认知心理学家纽厄尔、J．C．肖和H．A．西蒙1956年编制。该程序模拟人证明符号逻辑定理的思维活动，并成功地证明了一些数学定理。
它采用产生式系统的结构，以逆向搜索为主要工作策略，参照适当的启发法，成为第一个启发式的产生式系统和第一个成功的人工智能系统。它的成功支持了物理符号系统理论，加速了信息加工观点在心理学中的渗透，开辟了人工智能这一新的科学领域，开创了计算机模拟这一认知心理学方法。尽管对计算机模拟在心理学中的意义尚有待讨论，但逻辑理论家的成功，已经被公认为认知心理学兴起的一个标志性事件。【其实质就是将人解决数学问题的思路转换成计算机程序，是计算机程序进行数学问题的计算】。

4.由于知识工程的瓶颈（人将自己的知识教给计算机十分困难），所以人们希望计算机可以自己学习知识。

5.人工智能各学派简介：符号主义，连接主义，行为主义：
https://blog.csdn.net/u011531010/article/details/52935348

6.人工智能的历史：https://blog.csdn.net/R1uNW1W/article/details/79588925