下午去了一趟泳池,最后一程游到泳池中央的时候,突然闪出一个念头:尼玛,学习游泳的过程不也是一种机器学习吗?
情景呈现
设想以下的情景:
小明不会学游泳,他日思夜想的就是要怎样把游泳给学好,于是在某个暑假,他开始了夜以继日的训练。我们先定义一下对小明这个“机器”要学习的东西的定义。
目标:学会游泳
损失函数: J=∑I ( I 是呛水的次数,暂且就是这么定义吧)
训练数据:一开始我想的是小明就是数据库,后来转而一想,数据应该是小明身体里面的细胞、肌肉等等这些内在的结构,这样比较合理
训练数据有了,损失函数也有了,接下来要做的就是要用什么机器学习的模型呢。我们的模型是与时间有关,所以这里考虑用RNN(递归神经网络)来建模(当然最后不会用RNN,而是用LSTM,它可以防止梯度弥散而导致的训练失败)。
模型
好了,我们真的要用神经网络模型来训练小明这个网络了。
传统的RNN由一个三层的网络:输入层 i