《基于域相关和域无关特征融合的隐私保护跨域健康可穿戴推荐算法》个人学习

最新推荐文章于 2024-05-31 16:22:19 发布

你有钱吗？

最新推荐文章于 2024-05-31 16:22:19 发布

阅读量241

点赞数

分类专栏：跨域推荐隐私文章标签：推荐算法学习算法

本文链接：https://blog.csdn.net/Chendx66/article/details/127943270

版权

跨域推荐同时被 2 个专栏收录

1 篇文章 0 订阅

订阅专栏

隐私

1 篇文章 0 订阅

订阅专栏

A Privacy-Preserving Cross-Domain Healthcare Wearables Recommendation Algorithm Based on Domain-Dependent and Domain-Independent Feature Fusion

原论文链接

https://ieeexplore.ieee.org/document/9393622

Privacy-Preserving Cross-Domain Healthcare Wearables Recommendation(PPCDHWRec)基于域相关特征与域无关特征融合。

摘要

考虑到消费者经常购买或者评分电子商务平台上其他种类（非医疗方面，例如有食品、户外）的商品，我们可以将不同的辅助域中的重要信息利用起来，提高医疗可穿戴的推荐性能，这个也可以认作为跨域推荐。然而，传统的跨域推荐模型不能充分表示用户的属性，也没有考虑信息迁移过程中原始辅助域评分信息的遗漏。为了克服这两点，作者提出了Privacy-Preserving Cross-Domain Healthcare Wearables Recommendation algorithm(PPCDHWRec).首先，将用户的属性特征分成域相关特征和域无关特征两类，这样能够相互补充且能充分刻画用户的属性信息。第二，受到潜在因子模型的激发，作者通过Funk-SVD和Orthogonal Nonnegative Matrix Tri-Factorization(ONMTF)模型分解每一个辅助域的原始评分信息，由此分别获得用户的域相关特征和域无关特征。最后，利用因式分解机Factorization Machine融合得到带有目标域信息的用户特征，然后提供推荐结果。通过隐藏因式分解过程获得的项目潜在因子，PPCDHWRec能够确保用户原始信息不会从迁移后的用户隐藏向量推导出来，从而保证了用户隐私保护。

对前人工作提及

基于内容的推荐模型CB根据用户过去喜爱的项目的属性信息来推荐相似项目给用户，这个就特别需要项目的特征表示。因此，不准确或者不充分的特征表示会严重影响CB的推荐效果。
所谓的跨域推荐，例子：用上电商的数据和外卖的数据，来给医疗行业搞推荐。就好比如淘宝搜了什么，抖音就能推荐什么。
当前的跨域研究有两类：信息整合和知识整合。
信息整合方法通过将目标域的评分矩阵和辅助域的评分矩阵concatenate起来，就能够解决目标域中数据稀少的问题。但是性能不是很理想，原因是没有考虑目标域和辅助域在项目性质上的差异。
而知识整合方法因为考虑了目标域和辅助域在项目性质上的差异，因此性能上要由于信息整合方法。但是由于这方法使用辅助域信息不能充分表示用户特征，所以他们的性能也不是特别好。

跨域推荐的挑战

跨领域实现隐私保护有两个方面的挑战：①在跨域场景中，如何充分表示用户特征信息并且避免负面迁移？②如何避免跨域信息迁移中，用户的隐私泄露。
第一个挑战：将用户的特征表示分成域相关和域无关两类，将这两个相辅相成。
第二个挑战：利用因式分解将每一个辅助域中的原始评分信息分解成用户潜在向量和项目潜在向量，retaining(翻译成隐藏) the item latent vectors and disclosing the user latent vectors。这样就可以阻止通过向量点积来推出原始评分矩阵。

大致思路

首先，通过使用基于潜在因子模型（即Funk-SVD和Orthogonal Nonnegative Matrix Tri-Factorization(ONMTF)）的辅助域信息，抽取域相关特征和域无关特征。

Y. Koren, R. Bell, and C. Volinsky, “Matrix factorization techniques for recommender systems,” Computer, vol. 42, no. 8, pp. 30–37, 2009. 潜在因子模型论文参考

然后，使用因式分解机将两类特征与目标域信息有效融合起来。特征的权重在训练过程中会自动学习。

S. Rendle, “Factorization machines with libFM,” ACM Trans. Intell. Syst.Technol., vol. 3, no. 3, pp. 57:1-57: 22, 2012. 因式分解机论文参考

两种特征

域相关特征domain-dependent features：与领域具体内容相关的用户特征，例如用户喜欢的音乐风格、电影主题等。

域无关特征domain-independent features：与领域具体内容无关的用户特征，例如用户年龄、性别等。

域相关特征的抽取

作者基于辅助域评分矩阵 $M$ ，使用 $F u n k - S V D$ ，一种潜在因子模型，来抽取用户的域相关特征。

$F u n k - S V D$ 的核心是将用户和项目映射至维度为 $k$ 的同一个潜在因子空间。每一个项目 $i$ 都可以被一个潜在因子向量 $q_i∈R^k$ 表示. 其中每一个元素 $q_{ij}$ 表示该向量属于哪一个具体的实体的程度. 每一个用户 $u$ 也都能被偏好向量 $p_u∈R^k$ 表示.

在 $F u n k - S V D$ 模型中, 我们使用SGD算法来优化如下方程:

在这里插入图片描述

$κ$ 是已知评分 $r_{ui}$ 中 $(u, i)$ 的集合, $λ$ 是用来避免过拟合的正则化参数, 可以用10-fold cross-validation来决定 $λ$ 的值.

对于 $q_i,p_u$ 的具体训练迭代过程如下:

在这里插入图片描述

这里 $e_{ui}=r_{ui}-q^T_ip_u$ , $γ$ 是学习率, 并使 $γ=\frac{1}{τ},τ$ 是当前的迭代次数. 总的算法如下:

在这里插入图片描述

域无关特征的抽取

相比于域相关特征, 域无关特征与领域的具体内容无关, 因此跟容易迁移至目标领域.

作者采用ONMTF模型将评分矩阵分解成三部分: 第一个是用户潜在因子矩阵 $U$ , 第二个是项目潜在因子矩阵 $V$ , 第三个是描述用户潜在因子与项目潜在因子之间的交互关系矩阵 $B$ . 显然, $U$ 和 $V$ 不再享有相同维度的空间, 因此需要 $B$ 来连接 $U$ 和 $V$ 来做矩阵乘法.

在ONMTF模型中要解决下述优化方程:
在这里插入图片描述

迭代过程如下:

在这里插入图片描述

算法如下:

在这里插入图片描述

基于FM的信息融合

PPCDHWRec模型使用FM将抽取出来的两种特征与目标域信息融合起来. 在这里, 作者将目标域信息和域无关特征和域相关特征组合起来构建一个训练集, 如下图:

在这里插入图片描述

$D_0$ 为目标域, 其余为辅助域.

用户和项目以及相应的评分信息 $u,i,r_{ui})$ 可以由用户ID和项目ID的单热向量嵌入组合表示. 评分信息 $r_{ui}$ 被用来当作分类问题中标签值.

设用户域相关特征表示为 $p_{D_i}^d(i=1,2,\dots,n)$ , 用户域无关特征表示为 $p_{D_i}^{ind}(i=1,2,\dots,n)$ . 它们会被扩充至相应用户特征向量里头. 目标域的评分信息 $u,i,r_{ui})$ 最终会被扩展成如下形式, $m$ 和 $n_0$ 分别代表用户和项目在目标域中的数目.

在这里插入图片描述

因此, 辅助域信息以特征向量扩展的方式迁移至目标域. 另外, 为了避免负面影响的迁移, 作者基于FM在特征向量中充分融合了不同的特征. 由于高阶FM模型的计算量太多, 因此作者只采用二阶FM模型来特征融合. 最终 ,该论文的推荐模型 , 即预测模型如下:

在这里插入图片描述

$ω_0,ω_i,ω_{ij}$ 分别表示全局偏差, 特征 $x_i$ 的权重系数和特征 $x_i,x_j$ 交互的权重系数, $N$ 表示扩展后特征向量的维度. $ω_{ij}$ 可以表示为 $ω_{ij}=V_i^TV_j$ , $V_i$ 和 $V_j$ 分别表示 $x_i$ 和 $x_j$ 对应的潜在因子向量, 潜在因子向量的维度 $k$ 基于10-fold cross-validation决定.