- 博客(2)
- 收藏
- 关注
翻译 BERT4Rec: Sequential Recommendation with Bidirectional Encoder Representations from Transformer
Abstract: 根据用户历史的行为信息,对用户动态的偏好衍变进行建模,是对推荐系统产生的巨大挑战。现有算法使用序列神经网络,只能从左向右,利用单向信息进行建模。尽管这些放大得到了很好的效果,但是他们设定的严格顺序是不实际的。因此,本文提出针对推荐系统的transformer的双向编码器表示。由于利用深度双向信息会造成信息的泄露,为了解决这个问题,本文使用Cloze task训练模型,利用上下...
2019-06-21 14:44:10 4547
翻译 Synchronous Bidirectional Inference for Neural Sequence Generation
abstract: 目前seq2seq任务大多是从左到右一个词一个词生成的 神经网络的方法,比如LSTM或者self-attention,可以充分利用历史信息,但是不能利用未来信息(future information),从而导致结果的不平衡(左边由于右边) 本文提出一种同步双向推理模型: 提出平衡搜索策略,利用同步双向解码 同时交互使用left2right和right2left的双向解码...
2019-06-13 18:55:54 608
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人