序列生成模型
文章平均质量分 79
upupqlj
这个作者很懒,什么都没留下…
展开
-
tensor2tensor报错'Tensor' object is not iterable.
使用tensor2tensor建立decoder报错: 使用tensor2tensor建立decoder报错: ```python # Build RNN cell decoder_cell = tf.nn.rnn_cell.LSTMCell(num_units=self.args.rnn_dim) # Helper ...原创 2020-03-31 23:00:37 · 1611 阅读 · 0 评论 -
注意力机制
原理 链接:李宏毅视频 https://www.bilibili.com/video/av26543556?p=2 z0z^0z0是可以学习的参数,分别计算z0z^0z0和h1h^1h1、h2h^2h2、h3h^3h3、h4h^4h4的相似性(可以计算余弦相似性,也可以是nn或其它),通过softmax进行归一化得到权重,然后计算c0c^0c0 类似地计算出c1c^1c1 ...原创 2020-03-10 20:41:54 · 262 阅读 · 0 评论 -
序列生成模型-facebook bAbI 项目
keras官网上有一些序列生成模型相应的例子:https://keras.io/ 本文研究了facebook bAbI 项目 网址:https:/keras.io/zh/examples/babi_rnn/ 官网给的代码 Baby RNN.py 进行了更详细的注释 关键词:多输入、多输出的model;keras的Embedding层;LSTM单元;layers.concatenate用法(连接一些...原创 2020-02-21 22:29:41 · 718 阅读 · 0 评论