第一门课_第一周：深度学习引言

1.2 什么是神经网络？
① 深度学习：训练神经网络的过程。
② ReLU激活函数（Rectified Linear Unit）：从趋近于零开始，然后变成一条直线。

③ 神经网络：以预测房价为例。

1.3 用神经网络进行监督学习
① 图像应用—常用卷积神经网络（CNN）；序列数据（如音频、语言）—常用递归神经网络（RNN）；更复杂应用（如自动驾驶）—常用混合的神经网络。
② 标准的神经网络：

卷积神经网络（CNN）：

递归神经网络（RNN）：

③ 结构化数据：每个特征，如房屋大小卧室数量、用户的年龄，都有一个很好的定义。
非结构化数据：如音频、想要识别的图像或文本中的内容。

1.4 为什么深度学习会兴起？
① 在神经网络上获得更好性能的方法：训练一个更大的神经网络 or 投入更多的数据。

② 算法创新的一个例子：从sigmoid函数转换到ReLU函数（修正线性单元）。