花书学习笔记——第一章 引言

1989年的Cyc项目通过构建人工智能知识库+推理引擎 试图创造人工智能，但是意料之外的问题有很多，比如它认为拿着剃须刀的Bob具有电子元件成分，因此开始怀疑Bob拿着剃须刀时是否还是人类。解决这些脑残又棘手的问题的办法是 让机器可以根据知识库自己进行学习、自己获取新的知识，而不是仅仅依赖给定的知识库然后再以此死板的知识库为基础进行推理。这种让机器自己进行学习的能力就称为“机器学习”。

深度学习是一种表示学习，通过提取原始数据中的特征然后进行学习，而不是仅仅将一个 生的输入 直接映射为一个输出。表示学习的典型例子是自编码器，自编码器的主要功能位：将一个生输入映射为一个工整漂亮的输出，同时也可以将任意一个符合格式的类似输出的数据转化为相对应的输入（类似数学上的满射）。

深度学习的核心思想是使用其他较为简单的表示（横竖撇捺）来表达复杂的表示（一个手写汉字）。深度学习网络一般分为几个层次，可见层接收生输入，隐藏层则负责提取抽象的特征，用较为简单的表示来表达复杂的表示。

联结主义认为，将大量简单的计算单元连接在一起时，会产生智能行为。

分布式表示认为，对于每个输入，都应该提取核心特征。

使用神经网络对长序列进行数学建模，研究人员们提出了长短期记忆（LSTM）网络的概念，它被广泛应用。