RNN
北京纯牛奶
做个知识点记录的工具而已,其他绕道!
展开
-
LSTM基础
LSTM是对simple RNN的改进,表现总是比simple RNN好,具有比simple RNN更长的记忆。simple RNN只有一个参数矩阵,但是LSTM有四个参数矩阵遗忘门有选择的让c中的元素通过,如果是0,c对应的元素就没办法通过,输出也是0,如果是1,则C对应的元素全部通过。输入门输出门 LSTM参数数量计算...原创 2021-10-27 14:20:21 · 99 阅读 · 0 评论 -
RNN基础
文本,语言,持续序列的数据,现在RNN基本上可以被transform代替rNN的记忆比较短,会遗忘很久之前的输入,所以只能记录最近的输入,但是最开始的输入对他也有影响,但是比较低整个RNN只有一个参数A,不管链条有多长都是只有一个参数A![在这里插入图片描述](https://img-blog.csdnimg.cn/c4a98966840b4912ab6851c60e1e0739.png?x-oss-process=image/watermark,type_ZHJvaWRzYW5zZmFsbGJhY2原创 2021-10-27 12:51:41 · 201 阅读 · 0 评论