RS Meet DL(62)-[阿里]电商推荐中的特殊特征蒸馏

本文介绍了《Privileged Features Distillation for E-Commerce Recommendations》论文,探讨了在淘宝推荐系统中,如何利用特殊特征蒸馏技术提升模型预测精度。在粗排和精排阶段,由于性能限制,某些交互特征(如用户-物品交互、商品详情页特征)无法直接应用。文章提出融合模型蒸馏和特殊特征蒸馏的Unified Distillation方法,通过教师网络指导学生网络学习,以提高CTR和CVR预估效果。
摘要由CSDN通过智能技术生成

640?wx_fmt=png

今天介绍的论文是:《Privileged Features Distillation for E-Commerce Recommendations》

说说题目吧,先讲讲蒸馏(Distillation)的概念,我们知道模型最终都要应用于线上,如果太过复杂的模型会导致性能无法保证,往往会应用一个比较简单的模型。但简单的模型有时难以保证预测精度,因此一种做法是训练一个复杂的模型作为老师来指导这个简单模型的训练。这种教师-学生的训练模式,便称为蒸馏。再讲讲Privileged Features,我们这里暂且翻译为特殊特征。好了,进入正文吧。

1、背景

在淘宝的推荐系统中,整个推荐流程可以分为下面的三个阶段:

640?wx_fmt=png

首先是候选集生成阶段(candidate generation),接下来是粗排阶段(coarse-grained ranking),最后是精排阶段(fine-grained ranking)。这里跟咱们之前接触的两阶段过程不太一样,接下来分别介绍各阶段的内容。

在候选集生成阶段,通过多路召回的方式得到候选集合,召回方式可能有协同过滤、DNN模型等等。

在粗排阶段,主

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值