神经网络与深度学习第1章：绪论 阅读提问

1. 神经网络和深度学习是等价的吗？

并不等价，深度学习可以采用神经网络模型，也可以采用其他模型（比如深度信念网络）

2. 浅层学习和深度学习的主要区别是什么？

浅层学习的一个重要特点是不涉及特征学习，其特征主要靠人工经验或特征转换方法来抽取，而深度学习模型可以自动抽取特征

3. 什么是表示学习？什么是好的表示？有哪些表示方法？

为了提高机器学习系统的准确率，我们就需要将输入信息转换为有效的特征（比如word embedding），或者更一般性地称为表示（Representation）．如果有一种算法可以自动地学习出有效的特征，并提高最终机器学习模型的性能，那么这种学习就可以叫作表示学习

表示学习的关键是解决语义鸿沟（Semantic Gap）问题．语义鸿沟问题是指输入数据的底层特征和高层语义信息之间的不一致性和差异性。举个例子，计算机是无法直接理解文本的，文本的表示在计算机里只是一个一个低级编码（如ASCII码），所以需要通过一些转换手段让计算机能“理解”语义。

（1） 一个好的表示应该具有很强的表示能力，即同样大小的向量可以表示更多信息．
（2） 一个好的表示应该使后续的学习任务变得简单，即需要包含更高层的语义信息．
（3） 一个好的表示应该具有一般性，是任务或领域独立的．虽然目前的大

部分表示学习方法还是基于某个任务来学习，但我们期望其学到的表示可以比较容易地迁移到其他任务上．在机器学习中，我们经常使用两种方式来表示特征：局部表示（Local Representation）和分布式表示（Distributed Representation）．
局部表示：如one-hot编码
分布式表示：如RGB表示色彩，word embedding

4. 深度学习是什么？

“深度”是指将原始数据进行非线性转换的次数（层数），深度学习是机器学习的一个子问题，其主要目的是从数据中自动学习到有效的特征表示，深度学习需要解决的关键问题是：贡献度分配问题，即一个系统中不同组件或其参数对最终系统输出结果的贡献或影响