人工智能实践——第十周：RNN

最近发生了很多事情，从上个周开始，身体不适,跑了几次校医院，还跑了一趟北三院。昨天跑步的时候把脚崴了，今天去校医院检查居然骨折了( ▼-▼ )，难受。昨天还活蹦乱跳，今天就一瘸一拐。所以这两天都没有写leetcode，机器学习也没有进展。明天开始回归正常！

循环神经网络

RNN:借助循环核（Cell ）提取特征后，送入全连接网（Dense）
提取时间信息，循环核参数时间共享

RNN是在单个神经元上，除输入输出外， 添加一条自循环回路表征当前状态，当前状态会影响其未来状态。ht=f(ht-1 ,xt)
使得某一时刻神经元状态ht ，记忆力之前各时刻的状态h1,h2,…,ht-1
可以看到，存在两个参数wxh,whh,why。可以看到第一个参数代表是和x或者h的同维向量，第二个参数是对应的是h还是y


又因为xt,ht-1都是一维向量准确的说为相同一维的，所以可以拼接成一维向量作为循环体的全连接层神经网络的输入。