Deeplearning-Part1

1.2 什么是神经网络？

• 栗子：根据房屋面积（size of house）预测房屋价格（price）。

（图1）

• 说明：直线拟合样本点（线性回归linear regression）但价格不为负，因此前面为趋于零的一条线。
• 可将上述例子理解为一个简单的神经网络：

（图2）（单神经元网络）

                    size of house（输入x）- （神经元节点）- price（输出y）

• 图1右侧的拟合曲线函数称作：ReLU函数（修正线性单元rectified linear unit）修正意味着处理价格不为负的情况
• 神经网络可看作是多个单神经元网络的集合，影响输出的因素有很多（比如响房屋价格的因素除了房屋的面积大小外还有购房者的家庭居住人口数等等），输入层可具备多个特征x，但这些特征都需要通过神经元映射到输出y上面。

（图3）

1.3 用神经网络进行监督学习

• 监督学习（supervised learning）：机器学习中的一种。

        应用场景：广告对用户的精准投放／无人驾驶（判断周围是否有车）／英文翻译成中文／...

          （图4）

        针对不同的场景选择不同的神经网络系统：

        房价预测／广告投放：标准的神经网络架构Standard NN

        图像：卷积神经网络CNN

        音频：循环神经网络RNN（Recurrent Neural Network）（音频中的时间成分可看作为序列数据／一维时间序列）

        文本：RNNs（字母等是逐个出现的，可看作序列数据）

                （图5 SNN）

                     （图6 CNN）

 

           （图7 RNN）

• 机器学习被用于结构化数据和非结构化数据 - 结构化数据是数据库的数据；非结构化数据（音频／图像／文本等）

1.4 为什么深度学习会兴起？

（图8）

• 越来越多的数据提供给了深度学习分析的依据以及训练的样本
• 网络状况／CPU等硬件的飞速发展
• 持续创新的算法