推荐算法
推荐算法
hionechance
专注于计算机视觉、推荐系统方向研究与实践,欢迎交流
展开
-
推荐系统FM系列文章(四)-- AFM模型
0. 写在前面前面我们介绍了FM系列的三大模型,包括FM模型,DeepFM以及NFM。DeepFM与NFM模型都对FM做了不同程度的优化,重点都是结合神经网络实现对特征的高阶组合。今天我们来介绍将attention机制应用于FM模型的AFM模型(Attentional Factorization Machine)。个人心得:特征组合的重要性会随预测目标的改变而发生变化attention机制用于学习特征交叉前的不同权重论文地址:https://www.ijcai.org/Proceedings原创 2020-12-20 12:16:02 · 716 阅读 · 1 评论 -
推荐系统FM系列文章(三)-- NFM模型
0. 写在前面继上次介绍了DeepFM模型后,本文我们介绍将FM模型思想结合神经网络的又一工作 – NFM(Neural Factorization Machine),一起来看看NFM相比于FM模型及DeepFM模型有哪些不同之处以及优化点。个人心得:bi-interaction pooling layer,一种element-wise product的特征交叉层论文地址:https://arxiv.org/pdf/1708.05027.pdf1. 背景DeepFM将神经网络成功引入了FM原创 2020-12-19 20:46:08 · 716 阅读 · 1 评论 -
推荐系统FM系列文章(二)-- DeepFM模型
0. 写在前面前面我们介绍了FM模型的实现要点,也提到了其在推荐领域内的影响力。本篇,我们就来说说一种结合神经网络和FM的推荐模型–DeepFM,其他相关思路的模型将在后面的文章中陆续介绍。个人心得:结合MLP的高阶特征组合能力及FM的低阶特征交叉能力FM模型的DNN架构表示模型的并行结构设计论文地址:https://arxiv.org/pdf/1703.04247.pdf论文代码:https://github.com/ChenglongChen/tensorflow-DeepFM1原创 2020-12-16 23:27:21 · 437 阅读 · 1 评论 -
推荐系统FM系列文章(一)-- FM模型
0. 写在前面推荐系统相关从业人员肯定对FM(Factorization Machines)模型不会感到陌生,工业界及学术界在FM的基础上也提出了一系列优化模型,这些模型至今仍广泛应用于各类场景。本篇文章将带领大家重温FM模型,一探其中原理。个人心得:相比于LR,FM引入了二阶特征组合通过矩阵分解引入隐向量的方式来估计特征参数,解决特征稀疏问题,同时大大减少参数数目相比于MF(Matrix Factorization),FM能够引入用户特征、物品特征以外的其他特征,应用范围更广论文地址:h原创 2020-12-11 23:15:53 · 1364 阅读 · 0 评论 -
推荐场景下的ID类特征处理方式
在处理实际的机器学习问题的过程当中,常常会遇到id类特征的情况,例如推荐场景内的用户id,用户性别,商品id等。这里,将平时使用和学习到的常见解决思路进行一个总结。1. OneHot这种方式是最常见的id类特征处理方式,这种情况下,id类特征可枚举,每种取值情况占一位取1,其他位取0。例如性别分为男、女、未知。那么“男”表示为[1,0,0]。2. Multi-OneHot除了上述情况外,一种变量还可能同时具备有多种取值的情况。例如,在电商场景下,一个用户可能在历史行为中与多个商品发生交互,此时,描述原创 2020-12-03 23:27:50 · 2086 阅读 · 0 评论 -
基于用户兴趣的商品推荐算法--DIN论文解读
0. 写在前面前面我们分别讲了alibaba在电商推荐场景下的两大工作,分别是DIEN和DSIN。 其实,这两个模型均基于最初的模型DIN(Deep Interest Network)发展优化而来。这次,我们就来看看DIN相比于其他模型而言,到底有哪些优化点。个人心得:用户的历史行为与每个候选物品的相关性权重不是一定的,可以用attention来建模激活函数的优化–适应数据分布的激活函数DICE论文地址:https://arxiv.org/abs/1706.06978论文代码:https原创 2020-12-02 22:29:01 · 1283 阅读 · 0 评论 -
基于用户session兴趣的商品推荐算法-DSIN论文解读
0. 写在前面接着上一篇《DIEN论文解读》来讲讲alibaba最近的一个成果–DSIN(Deep Session Interest Network)深度兴趣会话网络。DSIN是DIEN的升级版,不仅对用户序列进行了更加细致的划分,并且进一步优化了网络架构层数,提高了模型对用户兴趣的表达能力。个人心得:用户的行为序列可以用一个个session序列表示,session内的用户兴趣变化不大;self-attention用于提取一个session内的用户兴趣论文地址:https://arxiv.o原创 2020-12-02 00:23:04 · 538 阅读 · 0 评论 -
捕捉用户兴趣演化--DIEN论文解读
0. 说在前面这篇论文距发表已经有一段时间了,但作为引入用户时序信息中提取用户兴趣的经典思路,在一些技术细节上还是有必要学习借鉴下。个人心得:用户行为可视为序列特征(相对于DIN的改进)GRU / LSTM隐变量 - 通过用户行为洞悉背后的兴趣Attention - 捕捉不同时间点的用户兴趣与当前推荐物品的相关性,得到用户对该推荐物品的最近兴趣原文地址:https://arxiv.org/pdf/1809.03672.pdf原文代码:https://github.com/mouna99原创 2020-11-30 23:15:18 · 934 阅读 · 0 评论 -
推荐系统中的特征工程
关于推荐系统中的特征工程在多数数据和机器学习的blog里,特征工程 Feature Engineering 都很少被提到。做模型的或者搞Kaggle比赛的人认为这些搞feature工作繁琐又不重要不如多堆几个模型,想入手实际问题的小朋友又不知道怎么提取feature来建模型。我就用个性化推荐系统做个例子,简单说说特征工程在实际的问题里是怎么做。定义特征工程 Feature Engine...转载 2019-08-11 09:49:20 · 318 阅读 · 0 评论