召回--联合训练树的索引和深层模型在推荐系统中的应用

最新推荐文章于 2023-02-20 17:24:34 发布
最新推荐文章于 2023-02-20 17:24:34 发布
阅读量268 收藏
点赞数
文章标签： 算法 深度学习 机器学习 人工智能 推荐系统
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hestendelin/article/details/120278835
版权

Joint Optimization of Tree-based Index and Deep Model for Recommender Systems

Han Zhu, Daqing Chang, Ziru Xu, Pengye Zhang, Xiang Li, Jie He, Han Li, Jian Xu, Kun Gai

Alibaba Group, Tsinghua University

https://proceedings.neurips.cc/paper/2019/file/1c6a0198177bfcc9bd93f6aab94aad3c-Paper.pdf

大规模工业界推荐系统通常面临计算问题，这是因为语料非常大。

为了在限定响应时间的前提下检索并推荐最相关的商品给用户，借助于高效的索引结构通常是比较有效并且实用的解决方案。先前的工作，基于树的深层模型(TDM)，利用树索引大幅提高了推荐准确性。

将商品以树分层的方式建立索引，在树中，以满足最大堆属性的形式来训练用户节点偏好预测模型，TDM相对语料规模的计算复杂度是对数阶的。这就使得在候选集检索和推荐中可以利用任意高级的模型。

在基于树的推荐方法中，树索引和用户节点偏好预测模型的质量基本上决定了推荐的准确性。树索引和偏好预测模型的学习具有依赖关系。这篇文章的目的在于共同学习索引结构和用户偏好预测模型。

作者们所提出的联合优化框架中，索引和用户偏好预测模型的学习在统一性能度量下来实现。另外，作者们利用分层索引提出一种新的分层用户偏好表示。

两个大规模真实数据集上的实验评估表明，作者们所提方法显著提升了推荐准确性。广告展示平台中的线上A/B测试结果表明生产环境中所提方法的有效性。

基于商品的协同过滤局限性如下

DIN、DIEN以及XdeepFM等模型不适合用于产生候选商品

这篇文章的主要贡献如下

TDM简介如下

TDM结构图示如下

最低0.47元/天 解锁文章
frank_hetest
关注
【大数据AI人工智能大模型实战】从0到1 全流程搭建一个商品、店铺、直播推荐 Feeds 流系统详细方案步骤和代码实例 3
AI天才研究院
09-06 1217
在当今的电子商务和社交媒体时代，个性化推荐系统已经成为提升用户体验和增加平台粘性的关键技术。特别是在电商平台中，一个高效的商品、店铺和直播推荐 Feeds 流系统可以显著提高用户的购物体验，增加商品曝光率，并最终提升平台的整体销售业绩。本文将详细介绍如何从零开始搭建一个完整的推荐 Feeds 流系统，涵盖商品、店铺和直播三个主要方面。我们将深入探讨系统架构、核心算法、数据处理流程、实时计算与离线计算的结合，以及具体的代码实现。
问答推荐系统的设计与实现
最新发布
AI天才研究院
02-07 196
在当今信息爆炸的时代，用户面临着海量的数据和知识，如何快速准确地获取所需信息成为一个巨大的挑战。问答推荐系统作为一种智能化的信息服务工具，旨在解决这一问题。它结合了问答系统的精准性和推荐系统的个性化特点，为用户提供高质量、定制化的信息服务。问答推荐系统的出现不仅改变了传统的信息获取方式，还推动了人工智能、自然语言处理和机器学习等技术的发展。从早期的基于规则的问答系统，到如今的基于深度学习的智能问答推荐系统，这一领域经历了巨大的变革。
一步搞定模型训练和商品召回：京东全新索引联合训练召回模型
Paper weekly
07-14 1043
©PaperWeekly 原创 ·作者|张菡单位|京东算法工程师研究方向|信息检索简介基于深度学习的语义检索已经广泛应用于互联网应用中。早在 2018 年，京东搜索已经实现了...
基于树的召回框架（二）：Joint Optimization of Tree-based Index and Deep Model for Recommender Systems
pyxiea
04-11 1297
阿里基于树结构的召回体系一共发了三篇paper，这是第二篇，其他两篇论文的阅读笔记见下方链接： 论文笔记：Learning Tree-based Deep Model for Recommender Systems 本文讲解论文的 supplementary files 下载，包括一些论断的证明过程以及 JTM 的代码实现 论文笔记：Learning Optimal Tree Models under Beam Search 此链接尚未更新 背景 在第一篇论文中提出的基于树结构的召回模型，优化树结构 T
基于树的召回框架（一）：Learning Tree-based Deep Model for Recommender Systems
pyxiea
04-06 1044
背景 在召回阶段，如果需做全量召回，直接线性遍历每个物品的时间复杂度是 O(N)O(N)O(N)，如果 NNN 过大，会遇到严重的计算效率过低的问题。在面对大规模物品集时，经典的召回思路有两种：基于物品的协同过滤、内积模型向量检索。 基于物品的协同过滤 使用 item-based 的协同过滤方法进行物品召回，可以有效降低计算量。其基于两阶段的思路，首先根据用户的历史行为（点击、购买等）获得触发物品（Trigger Item），然后到物品集中检索与这些触发物品最相似的物品，其中物品对的相似度是离线就已经预先计
【推荐系统】Learning Tree-based Deep Model for Recommender Systems
布纸所云
12-23 4736
论文连接：Learning Tree-based Deep Model for Recommender Systems 学习基于树的推荐系统深度模型 1. 导言 基于用户历史行为或者其他有着相似偏好的用户行为来推断用户兴趣的个性化推荐已经被广泛应用于各个领域。 挑战： 语料库十分庞大的时候，即使是关于语料库大小线性复杂度的模型也不能够接受 没有考虑推荐系统的新颖度(novelty) 小贴士：...
用于强化推荐系统的Top-K非政策修正方法 - 论文翻译
1066196847的博客
10-24 1200
原文链接：https://arxiv.org/pdf/1812.02353.pdf 摘要： 工业推荐器系统处理非常大的动作空间–数以百万计的项目需要被推荐。而且，他们需要为数十亿用户提供服务，这些用户在任何时间都是不一样的情况，使用户状态空间变得非常复杂。幸运的是，数量巨大已记录的隐式反馈（例如，用户点击次数，停留时间）可供我们训练模型来学习。但是从记录的反馈中学习可能会因为数据的原因学习到一......
Query理解和语义召回在知乎搜索中的应用（20页）.pdf
03-04
在知乎搜索中，Query理解和语义召回是两个关键的技术，它们极大地提升了搜索的准确性和用户体验。知乎搜索自2016年开始使用Elastic Search作为基础搜索引擎，并随着时间的推移不断进行技术迭代，引入了诸如Term ...
实时注意力lookalike模型RALM在推荐系统中的应用
hestendelin的专栏
09-26 817
Real-time Attention Based Look-alike Model for Recommender SystemYudan Liu, Kaikai Ge, Xu Zhan...
树训练总结
_C9的博客
04-11 198
这周练习了树和二叉树的知识，说实话，没大看明白，树是一种非线性数据结构，跟以往学习的线性结构有很大区别，到了一张图介绍一下树的基本组成和概念 下面介绍一下是线性结构和非线性结构的区别，线性结构是数据元素存在一对一关系的数据结构，非线性数据结构分三种情况 一、没有对应关系的数据结构 二、是一对多的数据结构 三、多对多的图结构和网结构 下面附上两道例题方便理解一下树...
每周一文（二）阿里TDM模型
更木的博客
01-20 1568
核心思想 本论文提出模型TDM算法解决两个核心问题： 抛弃以往通过计算user和item embedding相似度(cos or其他)作为user和item相似标准，来召回与user最相似的topK的item的做法。 设计一个可插拔的通用召回模型。 具体思路 论文的总体思路是训练一个树模型，并将这个树模型推送至线上进行召回，分为三大步： 初始化树模型 训练树模型 推送至线上，选取topK item作为召回 如下会对上述三个核心分别进行介绍。 初始化树模型 文章构建的树模型如下所示： 每个叶子节点对
阿里TDM召回算法
1066196847的博客
10-10 2457
Learning Tree-based Deep Model for Recommender Systems 论文链接：https://arxiv.org/pdf/1801.02294.pdf 参考文章：阿里TDM：Tree-based Deep Model - 知乎 阿里妈妈TDM模型详解 - 知乎 1 INTRODUCTION 1：据我们所知，TDM 是第一种可以在大型语料中使用任意高级模型的召回方法。受益于分层树搜索，TDM 实现了log层次的复杂度 2：TDM 可以帮助更准确地找到新颖但
TDM 三部曲 (与 Deep Retrieval)
「 虚幻私塾」
08-16 390
推荐系统的主要目的是从海量物品库中高效检索用户最感兴趣的物品，既然是“海量”，意味着用户基本不可能浏览完所有的物品，所以才需要推荐系统来辅助用户高效获取感兴趣的信息。同样也正是因为“海量”，由于算力的限制，复杂模型也是很难直接遍历每个物品算出分数来排序。如今的推荐系统通常大致分为召回 (retrieval) 和排序 (ranking) 两个阶段，召回是从全量物品库中快速得到一个候选集合，通常是几百到几千，后面的排序模块则使用更复杂的模型对候选集排序得到 top-k 物品推荐给用户。...
推荐系统[二]：召回算法超详细讲解[召回模型演化过程、召回模型主流常见算法(DeepMF/TDM/Airbnb Embedding/Item2vec等)、召回路径简介、多路召回融合]
丨汀、的博客
02-20 3606
召回区分主路和旁路，主路的作用是个性化+向上管理，而旁路的作用是查缺补漏推荐系统的前几个操作可能就决定了整个系统的走向，在初期一定要三思而后行做自媒体，打广告，漏斗的入口有多大很重要。召回这里稍微有些复杂，因为召回是多路的。首先我们要解释主路和旁路的差别，主路的意义和粗排类似，可以看作是一个入口更大，但模型更加简单的粗排。主路的意义是为粗排分担压力。但是旁路却不是这样的，旁路出现的时机往往是当主路存在某种机制上的问题，而单靠现在的这个模型很难解决的时候。
Learning Tree-based DeepModel for Recommender Systems
www122930的博客
05-16 3909
摘要已经研究了用于推荐系统的基于模型的方法以提供更精确的结果。在具有大型语料库的系统中，预测所有用户 - 项目对的偏好的学习模型的计算量是巨大的，这使得该模型难以直接用于候选推荐生成阶段。为了克服计算障碍，像矩阵分解这样的模型可以采用内积形式（即用用户和项目的潜在因素的内积作为偏好）和像哈希这样的索引执行有效的近似k-最近邻搜索。但是，其他由于计算量大，用户和项目特征之间的表达性交互形式（例如，通...
推荐系统论文集锦
abcdefg90876的博客
06-13 3044
【导读】本文整理了一系列推荐系统相关的论文Github链接：https://github.com/mengfeizhang820/Paperlist-for-Recommender-Sy...
树节点选中状态设置_效果炸裂，阿里推出深度树匹配召回升级版JTM
weixin_36073697的博客
01-03 322
导读：记得阿里 at KDD 2018的深度树匹配召回模型TDM[2]吗？升级版JTM[1]提出索引与模型同时优化的方案，效果炸裂大幅提升召回效果。作者：d0evi1来源：http://d0evi1.com/tdm2/整理：深度传送门介绍为了打破内积形式的限制，并使得任意的关于用户偏好的高级模型对于从整个语料中检索候选的方式在计算上变得可行，之前提出的TDM使用树结构作为index，可以...
Deep Learning based Recommender System: A Survey and New Perspectives （1）
Learning from the mistakes
11-28 7196
感想 最近看了一篇基于深度学习的推荐系统的综述，这个综述还是蛮新的，论文上显示的时间是2017年8月3号，讲得挺全的，读完后，我对深度学习应用推荐系统有了一个比较深的认识，我这里分享出来，希望也能够帮助大家的研究和学习，当然，本人水平有限，如果有错误，可以指正，我们共同进步哈。 1 介绍 互联网信息的爆炸性增长使用户迷失，推荐系统（Recommender system，RS）是一
毕设淘宝用户行为推荐（一）：数据来源介绍
CoderYYN
04-07 2598
淘宝用户数据 数据来源： 阿里云天池：阿里妈妈提供的数据集 数据集介绍： 文件 描述 特征 UserBehavior.csv 用户所有行为数据 用户ID，商品ID、类别ID、行为类型、时间戳 UserBehavior.csv 我们随机选择约100万用户，这些用户在2017年11月25日至12月3日之间具有点击，购买，向购物车中添加商品和偏好商品的行为。数据集的组织形式与Mo...
深度学习树模型在推荐系统中的应用
论文可能详细讨论了如何设计和训练这种树结构的深度模型，以及如何在实际推荐系统中集成和优化该模型。此外，作者可能还进行了实验，对比了所提方法与传统方法（如矩阵分解和基于深度学习的推荐模型）在准确率、召回...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值