DIEN在新闻推荐中的简化探索

前言

  阿里的DIEN的文章很有意思，用GRU对用户行为作兴趣状态描述，再用target与各个兴趣状态计算次attention，再交给AUGRU来捕捉兴趣演化。最近尝试着将其思路应用到实际新闻推荐中，鉴于原本DIEN模型稍微复杂，想做下简化工作，能够在捕捉用户历史兴趣不同权重的同时，保证预测效果稳定。

兴趣表达层

  我们将用户的历史行为所代表的兴趣状态，分为长期兴趣和短期兴趣，在Aribnb里面有同样类似的思路。但是，我们不用模型本身来做这部分捕捉兴趣的工作，而是借助用户画像表达长期兴趣，用最近点击历史表达短期兴趣。通过这样的方式，来降低模型的学习负担，专注于计算不同权重即可。
  而兴趣的表达，是个复杂的问题，我们避重就轻。长期兴趣，可以借助新闻的统计标签信息，比如用户点击过相关“自然语言处理”标签的新闻，在一个月内的历史上就有30次，那么“自然语言处理”就是这个用户的长期兴趣表达了。而短期兴趣，则是用户点击过的最近一段时间的新闻，比如最近24小时内点击过的10条新闻，那么把它们摆到一起，就是用户的短期兴趣了。但是只是UrlID，又略显拘束会存在各种后期问题。怎么整呢，最简单的处理方式时，标题分词作为新闻的表达。
数据的处理，就直接简化为了 ?

l