吴恩达深度学习系列课程------神经网络与深度学习

上次花费了几篇篇幅来介绍吴老师的机器学习课程，这篇blog就想把老师深度学习系列课程给汇总起来。主要包括知识点总结、课后作业以及答案解析。

第一周 深度学习概论

知识点总结

1.激活函数Relu(Rectified Linear Unit Function)

2.在监督学习中，我们得到了一个数据集，并且已经知道我们正确的输出应该是什么样子，认为输入和输出之间存在关系。
监督学习问题分为“回归”和“分类”问题。 在回归问题中，我们试图预测连续输出中的结果，这意味着我们试图将输入变量映射到某个连续函数。 在分类问题中，我们改为尝试预测离散输出的结果。 换句话说，我们正在尝试将输入变量映射为离散类别。
以下是一些例子：

3.神经网络的分类
有不同类型的神经网络，例如经常用于图像应用的卷积神经网络（CNN）和用于一维序列数据（例如将英语翻译成中文）或时间成分（例如文本记录）的递归神经网络（RNN）。 至于自动驾驶，它是一种混合神经网络架构。
4.结构化数据与非结构化数据
结构化数据是指具有明确含义的事物，例如价格，年龄，而非结构化数据是指诸如像素，原始音频，文本之类的事物。

课后习题

第一周的课后习题相对轻松，是十道选择题：
1.“AI是新电"的类比指的是什么？
A. AI 正在为家庭和办公室的个人设备供电，类似于电力。
B. AI在计算机上运行，因此由电力供电，但它允许计算机做以前不可能做的事情。
C. 通过"智能电网”，AI正在提供新一波的电力。
D. 与大约100年前开始的电力类似，AI正在改变多个行业。

2.其中哪些是深度学习最近兴起的原因？（选出正确的三个选项。）
A. 我们可以获得更多的计算能力。
B. 深度学习在诸如在线广告、语音识别和图像识别等重要应用方面取得了显著改进。
C. 我们可以访问更多的数据。
D. 神经网络是一个全新的领域。

3.回想一下这个在不同机器学习方法上迭代的图片。下面哪些陈述是真的？（选出所有正确选项。）
A. 能够快速尝试想法可以使深度学习工程师更快地进行迭代。
B. 更快的计算可以帮助加快团队迭代好主意所需的时间。
C. 在大数据集上训练比在小数据集上训练更快。
D. 深度学习算法的最新进展使我们能够更快地训练好模型（即使不更改 CPU/GPU 硬件）。

4.当一位经验丰富的深度学习工程师解决新问题时，他们通常可以利用以前问题的洞察力在第一次尝试中培养出良好的模型，而无需通过不同的模型多次迭代。
A. 真
B. 假

5.其中哪一个图表示 ReLU 激活函数？
A.

B.

C.

D.

6.猫识别图像是"结构化"数据的一个例子，因为它在计算机中被表示为结构化数组。
A. 真
B. 假

7.人口数据集包含不同城市人口、人均GDP、经济增长的统计数据，是"非结构化"数据的一个例子，因为它包含来自不同来源的数据。
A. 真
B. 假

8.为什么RNN（循环神经网络）用于机器翻译，比如将英语翻译成法语？（选出所有正确选项。）
A. 它可以被训练成一个受监督的学习问题。
B. 它比卷积神经网络 （CNN） 更强大。
C. 当输入/输出是一个序列（例如，单词序列）时，它适用。
D. RNN 代表"想法->代码->实验->想法->…"的反复出现过程

9.在我们讲课时亲手绘制的图表中，水平轴（x轴）和垂直轴（y轴）代表什么？

A
x轴是算法的输入
y轴是输出。
B
x轴是算法的性能
y轴（垂直轴）是数据量。
C
x轴是数据量
y轴（垂直轴）是算法的性能。
D
x轴是数据量
y轴是您训练的模型的大小。

10.假设上一个问题中描述的趋势是准确的（并且上题选择正确），以下哪一个是正确的？（选出所有正确选项。）
A. 增加训练集大小通常不会损害算法的性能，并且可能会有显著帮助。
B. 增加神经网络的大小通常不会损害算法的性能，而且可能会有显著帮助。
C. 减少训练集大小通常不会损害算法的性能，而且可能会有显著帮助。
**D.**减少神经网络的大小通常不会损害算法的性能，而且可能会有显著帮助。

答案以及解析

1.D
人工智能正在将许多领域从汽车行业转变为农业到供应链…
2.ABC
A正确
硬件的发展，特别是GPU计算，显著提高了深度学习算法的性能。
B正确
这些都是第3课讨论的例子。
C正确
我们社会的数字化在这方面发挥了巨大的作用。
3.ABD
A正确
是的，正如第4课所讨论的。
B正确
是的，正如第4课所讨论的。
D正确
例如，我们讨论了如何从西格莫德切换到 ReLU 激活功能，从而允许更快的培训。
4.B
找到模型的特征是取得好成绩的关键。虽然经验可以提供帮助，但它需要多次迭代才能构建好模型。
5.C
这是 ReLU 激活函数，在神经网络中使用最多。
6.B
猫识别图像是"非结构化"数据的一个例子。
7.B
人口数据集，包括不同城市的人口、人均国内生产总值、经济增长的统计数据，是反对图像、音频或文本数据集的"结构化"数据的一个例子。
8.AC
A正确
是的。我们可以用许多对句子x（英语）和y（法语）来训练它。
C正确
是的。RNN 可以从一系列英语单词映射到一系列法语单词。
9.C
10.AB
A正确
将更多数据引入模型几乎总是有益的。
B正确
根据上述数字的趋势，大网络通常比小型网络表现更好。
未完待续…