Datawhale X 李宏毅苹果书 AI夏令营 (深度学习基础——机器学习范例 TASK2）

1.线性模型

已知线性模型y=b+wx,不断计算梯度更新参数，使L减小。

然而，这个模型其实只考虑到了事情发生前一天的观看人次，在是基于侧重会产生一个很好玩的现象：

预测值始终慢于实际值，且实际值有周期性，这就要求我们理解数据本身的含义，这种周期性的数据是因为什么原因产生的。通过查看源数据，发现该数据与是否是周日有较大关系，所以线性模型应当以一个周为单位，修改为如下形式：

将前7天的数据均考虑进去，加以不同权重。

2.分段线性模型

引入一种函数类型：sigmoid函数：

利用sigmoid函数可以构建复杂的分段函数，如下图所示：

sigmoid函数表达式可以写作:

多个该函数相加后形成的表示式可以简写为：

优化时，计算未知参数对损失的微分，直到变为近乎为0。

sigmoid也不是固定的模型，可以换一个，比如说Relu,修正线性单元（Rectified Linear Unit，ReLU）其图像有一个水平的线，走到某个地方有一个转折的点，变成一个斜坡。称Relu和sigmoid为激活函数。

3.神经网络与深度学习

很多Relu或者sigmoid一起构成了一个函数，所以每个函数都类似于一个神经元。很多层这样的函数排布，便构成了神经网络。

图示如下：