什么是深度学习

前提假设

假设机器学习的训练样本是x={x₁,x₂,…,x_n}，其中的x₁,x₂,…,x_n分别表示样本的第1个、第二个直到第n个特征。
假设学习的函数比较简单，设为y=wx+b，其中w={w₁,w₂,…,w_n}，其中的w₁,w₂,…,w_n分别表示对应的样本特征x_i所占的权重。其中的b表示bias（偏差），

简单描述

我们要使用机器学习到的函数对数据进行一个拟合，由于y=wx+b这种形式的函数只能够去描述一条直线，而不能够很好地划分那些稍微复杂的数据，所以我们需要激活函数（activation function）来使得y=wx+b变得更加“柔软”，也就是对得到的y=wx+b中的y再套上一层函数，这样就可以方便地拟合复杂数据。
常见的激活函数有Sigmoid、ReLU等，它们的图像如下：

Sigmoid函数图像：

ReLU函数图像：

结合了激活函数后：

结合了激活函数后，模型已经可以较好地拟合数据。
现在，由于假设有m个样本，每个样本有n个特征，我们分配一个权值w_ij表示第i个样本的第j个特征所对应的权值，这时，就有了$b_i+{\sum }_{j=0}^n{w}_{ij}{x}_{ij}$表示第i个样本所对应的y=wx+b值，对这些直线性的y使用激活函数（此处使用Sigmoid，也可使用其它激活函数）设置不同的权重进行“软化”后，可以得到“真正的”结果为：

其中b_i指单个样本所对应的bias，而b表示最后整体添加的bias。

使用多个激活函数：

使用一个激活函数能够很好地让最初得到的计算结果“软化”，我们猜测使用多个激活函数嵌套处理可以得到更好的结果。于是。就可以这样：

其中的圆框表示我们使用的激活函数。
我们给这些激活函数起一个名字，叫做Neuron（神经元），很多的Neuron就叫做Neural Network（神经网络），同一个层次的每一排Neuron（图中指竖着的相同颜色的一列）叫做Layer，有很多的Layer就叫做Deep，这一整套技术就叫做Deep Learning（深度学习）。
------------------------------------------------------------------------------------来自于李宏毅机器学习课程