jasmine05的博客

原创 task2之循环神经网络基础

本次基于当前输入与过去的输入序列预测序列的下一个字符以展示使用循环神经网络实现语言模型。 循环神经网络引入一个隐藏变量*H*，用*Ht*表示*H*在时间步*t*的值。*Ht* 的计算基于 *Xt* 和 *Ht−1* ，可以认为 *Ht* 记录了到当前字符为止的序列信息，利用 *Ht* 对序列的下一个字符进行预测。 **循环神经网络的构造** 假设 *Xt*∈*Rn×d* 是...