机器学习是人工智能研究发展到一定阶段的必然产物。
* 20世纪五六十年代到七十年代,人工智能研究处于“推理期”:支付与机器逻辑推理能力(“逻辑理论家”程序&“通用问题求解”程序)
* 20世纪五十年代初期(跳棋程序)-> 中后期(基于神经网络的“连接主义”)-> 六七十年代(基于逻辑表达的“符号主义”)
* 20世纪八十年代,“从样例中学习”的一大主流是符号主义学习(决策树&基于逻辑的学习(归纳逻辑程序设计ILP))
* 20世纪九十年代中期之前,“从样例中学习”的另一大主流是基于神经网络的连接主义学习(NP问题https://baike.baidu.com/item/NP%E9%97%AE%E9%A2%98/2860567&BP算法https://baike.baidu.com/item/BP%E7%AE%97%E6%B3%95/1252294?fr=aladdin)
* 20世纪九十年代中期,“统计学习"(支持向量机IVM & 核方法)
* 21世纪初,深度学习