论文分享《Fair representation learning for recommendation: a mutual information perspectivee》

Fair Representation Learning for Recommendation: A Mutual Information Perspective

背景

发表在AAAI 2023上的一篇文章，主要聚焦的问题是基于协同过滤的推荐系统的公平性问题。对于公平性的定义很难有一种统一的说法，作者在文中提出主要针对的是推荐系统受到类似于性别、种族等敏感因素的影响为用户推荐不当的结果。

不公平的推荐系统的两个实例：1.新闻推荐系统可能会推荐带有明确政治偏见的新闻来操纵用户的选择。2.职业推荐系统可能会不成比例地向女性用户推荐相对低收入的工作。

摘要

针对推荐系统受到敏感属性的影响造成不公平的推荐的问题，作者提出的方法是用一个新的双重互信息目标重新定义了公平性，以此来提供推荐地公平性，同时避免准确性下降。之后设计了一个基于协同过滤的Fair Mutual Information(FairMI)框架，使用该框架可以生成嵌入可以在删除敏感的信息的同时保留尽可能多的非敏感信息。

方法论

3,1 前言

互信息 Mutual information MI:一种基于香农熵的度量两个随机变量之间相关性的方法,变量X和Y之间的MI定义为:
$$\mathcal{I}(X;Y)=\mathcal{H}(X)-\mathcal{H}(X|Y)\text{\hspace{1em}(1)}$$
协同过滤基本概念：

用户集：$U(|U|=M)$

物品集：$V(|V|=N)$

用户物品交互矩阵：$\mathbf{R}\in {\mathbb{R}}^{M\times N}$

用户-物品二部图：$\mathcal{G}=<U\cup V,\mathbf{A}>$

邻接矩阵:$a_{ij}$表示节点i和j的边，如果i与j之间有边，则$a_{ij}$为1，否则为0
$$\mathbf{A}=\left\{\begin{array}{cc}\mathbf{R}& 0\\ 0& {\mathbf{R}}^T\end{array}\right\}\text{\hspace{1em}(2)}$$
学习到的用户、物品嵌入：
$\mathbf{E}=\left[\begin{array}{c}{\mathbf{E}}_{\mathbf{U}}\\ {\mathbf{E}}_{\mathbf{V}}\end{array}\right]\in {\mathbb{R}}^{(M+N)\times D}$

协同过滤的目标就是预测用户u对物品v的偏好，可以通过计算二者嵌入的相似度来进行判断。

3.2 FairMI框架

基于双重互信息目标的公平性定义：

整个框架预训练好的协同过滤器Pretrained CF、一个Sensitive Attribute Encoder、一个Interest Encoder和一个基于双重互信息目标构成。实现的基础思想是将初始嵌入e分解为敏感嵌入$e^S$和无敏感嵌入$e^Z$。敏感嵌入具有丰富的触发不公平的敏感信息特征，而无敏感嵌入仅包含非敏感信息特征，来以此达到公平的目标。

3.2.1 Sensitive Attribute Encoder

由于用户-物品二部图的结构信息已经被证明了包含丰富的敏感信息，作者采用图信息来进行分类，使用GCN来进行信息聚合生成嵌入，聚合过程如下：
$$\begin{array}{l}{\mathbf{h}}_v^{k+1}=GCN\left({\mathbf{h}}_v^k,\left\{{\mathbf{h}}_u^k:u\in {\mathbf{R}}_v\right\}\right),\\ {\mathbf{h}}_u^{k+1}=GCN\left({\mathbf{h}}_u^k,\left\{{\mathbf{h}}_v^k:v\in {\mathbf{R}}_u\right\}\right),\end{array}\text{\hspace{1em}(3)}$$
最终最后层的输出被认为是学习好的物品和用户敏感嵌入：$e_u^s={\mathbf{h}}_u^K,e_v^s={\mathbf{h}}_v^K$

敏感分类器$\mathcal{S}$用来预测用户u的敏感属性：${\hat{a}}_u=\mathcal{S}(e_u^S)$ ，$\mathcal{S}$由单层全连接网络实现。

整个过程的交叉熵损失函数如下，其中${\theta }_S$是分类器$\mathcal{S}$的参数。
$$\underset{{\theta }_S,E^s}{\min }{\mathcal{L}}_A=-\frac{1}{M}\sum _{u=1}^M{a}_u\log ({\hat{a}}_u)\text{\hspace{1em}(4)}$$

3.2.2 Interest Encoder

在获得了物品、用户敏感嵌入表示之后，后续的目标是生成无敏感的嵌入(与敏感嵌入无关，但尽可能多地保留非敏感信息的嵌入)。作者提出了一个新的基于公平推荐的双重互信息目标，具体如下。

${\mathbf{R}}_u、{\mathbf{R}}_v$分别代表用户u的交互物品，和物品v的交互用户。

对于每个用户，都要满足以下两个条件：

1. 条件1：$e_u^Z$与$e_u^S$应该没有互信息
2. 条件2：当$e_u^S$确定时，$e_u^Z$和${\mathbf{R}}_u$应该有最大的互信息

类似地，对于每个物品，也需要满足类似地两个条件：

3. 条件3：$e_v^Z$与$e_v^S$应该没有互信息
4. 条件4：当$e_v^S$确定时，$e_v^Z$和${\mathbf{R}}_v$应该有最大的互信息

条件1、3表示无敏感嵌入不包含敏感嵌入的信息，可以形式化表示为最小化无敏感嵌入和敏感嵌入的互信息$\mathcal{I}(e_u^Z;e_u^S)、\mathcal{I}(e_v^Z;e_v^S)$

条件2、4表示无敏感嵌入要尽可能多地包含非敏感信息，可以形式化地表示为最大化$\mathcal{I}(e_u^Z;{\mathbf{R}}_{\mathbf{u}}|e_u^S)、\mathcal{I}(e_v^Z;{\mathbf{R}}_{\mathbf{v}}|e_v^S)$

为什么不采用最大化$\mathcal{I}(e_u^Z;{\mathbf{R}}_{\mathbf{u}})、\mathcal{I}(e_v^Z;{\mathbf{R}}_{\mathbf{v}})$的解释，历史交互数据是敏感信息和非敏感信息的组合，同时最大化与目标1、3冲突

整体的损失函数如下：
$$\underset{E^Z}{\min }{\mathcal{L}}_{all}={\mathcal{L}}_{rec}+{\mathcal{L}}_{MI}\text{\hspace{1em}(5)}$$
${\mathcal{L}}_{MI}$是基于双重互信息目标的损失函数，会在后续上下边界计算时说明具体计算方法。

${\mathcal{L}}_{rec}$可是任意的隐式反馈的推荐损失，比如说BPR,如下所示：${\mathcal{D}}_u=\{(v,k)|v\in {\mathbf{R}}_{\mathbf{u}}\cap k\in V-{\mathbf{R}}_{\mathbf{u}}\}$，$\sigma (\cdot )$是sigmod函数
$${\mathcal{L}}_{rec}=-\sum _{u=1}^M\sum _{(v,k)\in {\mathcal{D}}_u}\ln \sigma ({e_u^z}^T{e}_v^Z-{e_u^z}^T{e}_k^Z)\text{\hspace{1em}(6)}$$

BPR损失函数的基本思想是:给定一个用户u 和两个物品i，j ，BPR损失函数要求模型将用户更喜欢的物品i
排在用户更不喜欢的物品j 之前。简单点说就是让正样本和负样本之间的得分之差尽可能的大（正样本是用户偏爱的，而负样本是没有进行交互的）

互信息上下界公式推导参考：https://zhuanlan.zhihu.com/p/91900950

3.2.3 MI Upper Bounds

在公式5中，剩下的挑战是如何计算${\mathcal{L}}_{MI}$。为此作者提出了一种新的基于双重互信息的目标来近似损失。该双重目标包括：

1. 最小化互信息$\frac{1}{M}{\sum }_{u=1}^M\mathcal{I}(e_u^Z;e_u^S)、\frac{1}{N}{\sum }_{v=1}^N\mathcal{I}(e_v^Z;e_v^S)$上界
2. 最大化互信息$\frac{1}{M}{\sum }_{u=1}^M\mathcal{I}(e_u^Z;{\mathbf{R}}_{\mathbf{u}}|e_u^S)、\frac{1}{N}{\sum }_{v=1}^N\mathcal{I}(e_v^Z;{\mathbf{R}}_{\mathbf{v}}|e_v^S)$下界

以计算用户的互信息上界为例：如果$P\left({\mathbf{e}}_u^S\mid {\mathbf{e}}_u^Z\right)$已知，并且$e_j^S\sim P(e_u^S)$，就有以下不等式成：
$$\mathcal{I}\left({\mathbf{e}}_u^S;{\mathbf{e}}_u^Z\right)\le \mathbb{E}\left[\log P\left({\mathbf{e}}_u^S\mid {\mathbf{e}}_u^Z\right)-\frac{1}{M}\sum _{j=1}^M\log P\left({\mathbf{e}}_j^S\mid {\mathbf{e}}_u^Z\right)\right]\text{\hspace{1em}(7)}$$

使用变分推理通过最小化KL散度来生成概率分布$q_{\varphi }(e_u^S|e_u^Z)$去近似$P(e_u^S|e_u^Z)$
$$\underset{q_{\varphi }}{\min }{\mathbb{D}}_{KL}[q_{\varphi }(e_u^S|e_u^Z)||P(e_u^S|e_u^Z)]\text{\hspace{1em}(8)}$$
最终MI的上界损失函数可以表示为：
$$\underset{{\mathbf{e}}_u^Z}{\min }{\mathcal{L}}_{\text{upper }}^{\text{user }}=\frac{1}{M}\sum _{u=1}^M\left[\log q_{\varphi }\left({\mathbf{e}}_u^S\mid {\mathbf{e}}_u^Z\right)-\frac{1}{M}\sum _{j=1}^M\log q_{\varphi }\left({\mathbf{e}}_j^S\mid {\mathbf{e}}_u^Z\right)\right]\text{\hspace{1em}(9)}$$

物品的互信息上界的损失函数同理。

3.2.4 MI Lower Bounds

目标：最大化互信息$\frac{1}{M}{\sum }_{u=1}^M\mathcal{I}(e_u^Z;{\mathbf{R}}_{\mathbf{u}}|e_u^S)、\frac{1}{N}{\sum }_{v=1}^N\mathcal{I}(e_v^Z;{\mathbf{R}}_{\mathbf{v}}|e_v^S)$下界。

以计算用户的互信息下界为例：

由于用户历史交互信息的高维和稀疏性，作者利用预训练模型比如BPR、LightGCN来生成低秩的嵌入${\mathbf{p}}_u$来代表用户历史交互矩阵${\mathbf{R}}_u$,之后采用Conditional InfoNCE来计算

给定${\mathbf{p}}_u,e_u^Z,e_u^S\sim P({\mathbf{p}}_u,e_u^Z,e_u^S),{\mathbf{p}}_j\sim P({\mathbf{p}}_u|e_u^S)$,有以下公式成立：
$$\mathcal{I}\left({\mathbf{e}}_u^Z;{\mathbf{p}}_u|{\mathbf{e}}_u^S\right)\ge \mathbb{E}\left[\log \frac{\exp f({\mathbf{p}}_u,e_u^Z,e_u^S)}{\frac{1}{M}{\sum }_{j=1}^M\exp f({\mathbf{p}}_j,e_u^Z,e_u^S)}\right]\text{\hspace{1em}(10)}$$
其中$f(\cdot )$是一个计算分数的函数，如下所示。$sim(\cdot )$是余弦相似度函数，$\alpha$是控制敏感嵌入影响的超参
$$f({\mathbf{p}}_u,e_u^Z,e_u^S)=sim({\mathbf{p}}_u,e_u^Z+\alpha \cdot e_u^S)\text{\hspace{1em}(11)}$$

从条件分布中进行抽样是非常困难的，作者设计了$\pi (e_i^S,e_j^S)$（作者这里采用皮尔逊系数来代替）来测量两个敏感嵌入是否属于相同或者相反的偏置方向。通过 { p j ∣ ( π ( e i S , e j S ) > 0 ) } \{ \mathbf{p}_j | (\pi(e_i^S,e_j^S) > 0)\} {pj​∣(π(eiS​,ejS​)>0)}来进行条件采样。

最终得到互信息下界计算公式如下，$w({\mathbf{e}}_u^Z,{\mathbf{e}}_u^S,\alpha )=e_u^Z+\alpha \cdot e_u^S$, $\alpha$ = 0.1
$$\underset{{\mathbf{e}}_u^Z}{\max }{\mathcal{L}}_{\text{lower }}^{\text{user }}=\frac{1}{M}\sum _{u=1}^M\left[\log \frac{\exp \left(\mathrm{sim}\left({\mathbf{p}}_u,w\left({\mathbf{e}}_u^Z,{\mathbf{e}}_u^S,\alpha \right)\right)\right)}{\frac{1}{M}{\sum }_{j=1}^M\exp \left(\mathrm{sim}\left({\mathbf{p}}_j,w\left({\mathbf{e}}_u^Z,{\mathbf{e}}_u^S,\alpha \right)\right)\right)}\right]\text{\hspace{1em}(12)}$$
物品的互信息下界的损失函数同理。

结合上下界损失函数，得到整体互信息的损失函数：
$${\mathcal{L}}_{MI}=\beta ({\mathcal{L}}_{upper}^{user}+{\mathcal{L}}_{upper}^{item})-\gamma ({\mathcal{L}}_{lower}^{user}+{\mathcal{L}}_{lower}^{item})\text{\hspace{1em}(13)}$$

实验

两个公平性的评价指标

1. Demographic Parity (DP)：对于A和非 A两个群体的个体来说，被分配到各个类别的比例。
   $$\begin{gathered} \forall v\in V,f_{G_0}^v=\frac{{\sum }_{u\in G_0}{\mathbf{I}}_{v\in Top{K}_u}}{|G_0|},f_{G_1}^v=\frac{{\sum }_{u\in G_1}{\mathbf{I}}_{v\in Top{K}_u}}{|G_1|} \\ {\mathbf{f}}_{G_0}=[f_{G_0}^1,\cdots ,f_{G_0}^v,\cdots ,f_{G_0}^N],{\mathbf{f}}_{G_1}=[f_{G_1}^1,\cdots ,f_{G_1}^v,\cdots ,f_{G_1}^N]\text{\hspace{1em}(14)} \end{gathered}$$

$$DP@K=JSD({\mathbf{f}}_{G_0},{\mathbf{f}}_{G_1})\text{\hspace{1em}(15)}$$

2. Equalized of Opportunity (EO) ：在不同的群体中在用户真实偏好的情况下获得类似的预测结果。
   $$\begin{gathered} \forall v\in V,d_{G_0}^v=\frac{{\sum }_{u\in G_0}{\mathbf{I}}_{v\in {\mathbf{R}}_u^t\cap Top{K}_u}}{|G_0|},d_{G_1}^v=\frac{{\sum }_{u\in G_1}{\mathbf{I}}_{v\in {\mathbf{R}}_u^t\cap Top{K}_u}}{|G_1|} \\ {\mathbf{d}}_{G_0}=[d_{G_0}^1,\cdots ,d_{G_0}^v,\cdots ,d_{G_0}^N],{\mathbf{d}}_{G_1}=[d_{G_1}^1,\cdots ,d_{G_1}^v,\cdots ,d_{G_1}^N]\text{\hspace{1em}(16)} \end{gathered}$$

$$EO@K=JSD({\mathbf{d}}_{G_0},{\mathbf{d}}_{G_1})\text{\hspace{1em}(17)}$$

在两个数据集上的实验结果：

总结

本文从互信息角度出发解决推荐系统的公平性问题，主要采用的操作是利用互信息来区分敏感信息和非敏感信息，最终实际运用到损失函数中进行模型优化，力求得到公平的物品表示。同时还学习到了两种公平性的评价指标。对于互信息上下界公式的推导还需要学习。