课程1-第一周-深度学习引言（Introduction to Deep Learning）

1.1什么是神经网络

举例：预测房价

用一条直线拟合房价

把房屋的面积作为输入（成为x），通过一个节点（一个小圆圈），最终输出价格（成为y）。如下图所示，即为一个简单的神经网络。

进一步的，房屋的价格可能还与其他因素有关，如位置，卧室数量等。故多个特征输入时，可表示为：

这就是多个输入的神经网络，用一个更规范的形式表示为：

1.2神经网络在监督学习中的应用

监督学习

输入（Input(x)）	输出（Output(y)）	应用（Application）	原理
房价因素（Home features）	房价（Price）	Real Easter	标准神经网络(Standard NN)
在线广告，用户信息（ad）	推荐在线广告（0/1）	在线广告（Online Advertising）
图片（Image）	目标（Object）	图片识别（Photo tagging）	卷积神经网络（Convolution NN）
音频（Audio）	转换文本（Text transcript）	语音识别（Specch recognition）	递归神经网络（Recurrent NN）
英语（English）	中文（Chinese）	在线广告（Online Advertising）
图片（Image，Radar info）	位置（Position of other cars）	自动驾驶（Auto driving）	Custom and hybrid NN

Standard NN

CNN

RNN

结构化数据与非结构化数据

1.3深度学习为什么会兴起

如图所示，大数据时代，深度学习算法性能远远强于其他算法。

三个因素：

• Data
• . Computation 比如：GPU
• Algorithm 比如：sigmoid function→ReLU function

算法必须快，形成一个正循环，快速验证：