循环核
1. 循环核介绍
参数时间共享,循环层提取时间信息。
2. 循环核按时间展开
参数ht随着时间的变化而变化,输入数据x也随着变化而变化。训练优化的就是这些参数构成的矩阵,训练完成后,我们选择效果最好的模型,执行前向传播。
3. 循环计算层
向输出方向生长,循环核中记忆体的个数和参数可以自己设置。
4. TF描述循环计算层
tf.keras.layers.SimpleRNN(记忆体个数,
activation = '激活函数', # 其中默认为tanh
return_sequences = Ture or False # 是否每个时刻输出ht到下一层,
# 如果不是则仅最后时间步输出ht,False为默认值
)
(1)每个时间步都会输出ht
(1)仅最后时间步输出ht