GRU门控循环单元
原理:内部的Reset gate和Update gate是可训练的 并且他们可以影响隐藏状态和输入特征的大小,Rt和Zt的取值都是在0-1之间,这样功能就有点类似于dropout,不过其中的参数是可学习的。就像一个动态的dropout
性质:整个GRU是可学习的,当堆砌的神经网络进行层与层的跨越的时候就可以通过GRU整合上一层的特征和本层特征,传递至下一层。确保能够使新的特征向量包含真正需要的特征。
神经网络模型之GRU门控循环单元
最新推荐文章于 2024-02-05 23:35:57 发布