论文笔记-Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking Fairness and Algorithm Utility

Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking Fairness and Algorithm Utilit

论文链接

arxiv链接
首先声明，我没有详细做过fairness相关的调研，尤其是涉及到医学领域的数据集（本文中使用的），因此可能会在理解上出现一些错误，欢迎在评论区指正探讨~

工作任务

近年来，人们发现由于数据统计的偏差，模型本身的设计甚至是人为引入偏见等因素的存在，使得算法也呈现出不公平的结果，最常见的unfairness的现象就是性别歧视和种族歧视。因此今年来，越来越多的许多工作都被提出来提升算法的公平性。二分排序（把正样本排在负样本前面）在现实生活中有广泛应用。最近人们注意到算法学习到的score function会在一些敏感的属性划分出的group间（比如按照性别将男性划为一个group，女性划为一个group）表现出偏差，也就是我们说的公平性（fairness）问题。这篇工作的研究内容就是排序问题下的公平性问题（fairness）和算法性能（algorithm utility）之间的平衡。作者提出的解决方法是一种模型无关的后处理框架，并且这个过程是非参数化的（non-parametric)，通过动态规划的方法来解决，能够保证较好的时间复杂度。

概括性总结：
模型结果：先得到组内的排序，再将各组序列融合得到组件排序。
优化目标：最大化fairness metric 和 utility metric的加权求和
优化方法：组内排序不涉及fairness，因此按照score function给出的得分排序即可；对于组间融合排序：将排序结果看作一个路径，设计一个动态规划算法找到最优化目标的路径来得到组间融合排序。

工作思路

step1：如何量化评价fairness？
要做的是按照sensitive attribute划分两个group：a,b。分别计算一些指标，然后考虑指标之间的差异。
作者这里考虑的两个fairness metrics是：$\text{xAUC}$，$\text{PRF}$。
$\text{xAUC}$：计算一个组的正样本排在另一个组的负样本前面的概率。期望两个组能有相同的xAUC，从而实现最优的fairness，即 $\Delta \text{xAUC}=0$。
$\text{PRF}$：计算一个组的正样本排在所有负样本前面的概率。

step2：优化目标
对于我们的任务中，会根据某个sensitive attribute将样本划分成group a,b。首先按照score function对组内instances进行排序得到序列 p a = { p a ( 1 ) , p a ( 2 ) , . . . , p a ( n a ) } , p b = { p b ( 1 ) , p b ( 2 ) , . . . , p b ( n b ) } p^a=\{p^{a(1)},p^{a(2)},...,p^{a(n^a)}\},p^b=\{p^{b(1)},p^{b(2)},...,p^{b(n^b)}\} pa={pa(1),pa(2),...,pa(na)},pb={pb(1),pb(2),...,pb(nb)}。之后在保证utility和fairness的条件下将$p^a,p^b$融合成最终的ranking sequence： o ( p a , p b ) = { p a ( 1 ) , p b ( 1 ) , p a ( 2 ) , . . . , p a ( n a ) , p b ( n b ) } o(p^a,p^b)=\{p^{a(1)},p^{b(1)},p^{a(2)},...,p^{a(n^a)},p^{b(n^b)}\} o(pa,pb)={pa(1),pb(1),pa(2),...,pa(na),pb(nb)}，这里面的组内顺序是和$p^a,p^b$保持一致的。
因为要平衡algorithm utility 和 fairness，优化目标设计为对utility和fairness分别计算得分，然后加权求和。
首先是utility的计算
作者使用AUC值来表示algorithm utility。由于AUC可以理解为：从正负样本集合中分别随机采样一个样本，正样本能够排在负样本前面的概率。表示为：
$\text{AUC}=\text{Pr}[S_1>S_0]=\frac{1}{n_1{n}_0}{\sum }_{i:Y_i=1}{\sum }_{j:Y_j=0}\mathbb{I}[R(X_i)>R(X_j)]$
$X_i$表示正样本， $X_j$表示负样本，$n_1$表示正样本数量，$Y_i$表示样本$X_i$的标签。 $R(X_i)>R(X_j)$表示样本$X_i$排的比$X_j$高。
其次是fairness的计算
作者采用的$\Delta \text{xAUC}$来衡量算法的fairness。对于最终的ordering $o(p^a,p^b)$来说，group a在group b上的$\text{xAUC}$的计算如下：
$\text{xAUC}(a,b)=\text{Pr}[S_1^a>S_0^b]=\frac{1}{n_1^a{n}_0^b}\sum _{i:i\in a,Y_i=1}\sum _{j:j\in b,Y_j=0}\mathbb{I}[R(X_i,a)>R(X_j,b)]$
则$\Delta \text{xAUC}$计算如下:
$$\Delta \text{xAUC}(o(p^a,p^b))=|\text{xAUC}(a,b)-\text{xAUC}(b,a)|$$
两种metric的加权求和得到最终的优化目标：
$$J(o(p^a,p^b))=\text{AUC}(o(p^a,p^b))-\lambda \cdot \Delta \text{xAUC}(o(p^a,p^b))$$
作者这里对优化目标做了一个变换，得到只需计算$\text{xAUC}$的形式，不需计算$\text{AUC}$：
$$G(o(p^a,p^b))=k_{a,b}\cdot \text{xAUC}(a,b)+k_{b,a}\cdot \text{xAUC}(b,a)-\lambda k\cdot \Delta \text{xAUC}(o(p^a,p^b))$$
其中：$k_{a,b}=n_1^a{n}_0^b,k_{b,a}=n_1^b{n}_0^a,k=n_1{n}_0$

推导：
$\text{AUC}=\frac{k_a}{k}\cdot \text{iAUC}(a)+\frac{k_{a,b}}{k}\cdot \text{xAUC}(a,b)+\frac{k_b}{k}\text{iAUC}(b,a)+\frac{k_b}{k}\cdot \text{iAUC}(b)$
$\text{iAUC}=\text{Pr}[S_1^a>S_0^a]=\frac{1}{k_a}{\sum }_{i:i\in a,Y_i=1}{\sum }_{j:j\in a,Y_j=0}\mathbb{I}[R(X_i)>R(X_j)]$
$k_a=n_1^a{n}_0^a,k_b=n_1^b{n}_0^b$
$\text{iAUC}$表示组内的随机正样本排序比随机负样本高的概率。
因为无论怎么融合排序，组内顺序是不变的，因此$\text{iAUC}$可以看作是常数，由此可以对$J(o(p^a,p^b))$拆分成：
$$\begin{gathered} J(o(p^a,p^b))=\text{AUC}(o(p^a,p^b))-\lambda \cdot \Delta \text{xAUC}(o(p^a,p^b)) \\ =\frac{1}{k}(k_{a,b}\text{xAUC}(a,b))+k_{b,a}\text{xAUC}(b,a))-\lambda k\Delta \text{xAUC}(o(p^a,p^b))+C \end{gathered}$$
忽略常数项得到新的优化目标：
$$G(o(p^a,p^b))=k_{a,b}\text{xAUC}(a,b))+k_{b,a}\cdot \text{xAUC}(b,a)-\lambda k\Delta \text{xAUC}(o(p^a,p^b))$$

step3：融合排序算法（前提是group内的序列已经按照scores排好，得到了$p^a,p^b$)
作者把融合排序得到的列表看作是一个路径，路径方向就是排序顺序 。算法目标就是找到一个最优路径使得目标函数最优。路径约束是：必须从$p^{a(1)}$或者$p^{b(1)}$开始，以$p^{a(n^a)}$或者$p^{b(n^n)}$结束，每个instance都出现且只出现一次。组内顺序保持不变。
下图是一个path的例子（水印是什么鬼！我截的论文里的图！）：
作者提出用动态规划的方法求解最优路径。设置$size=(1+n_a)\times (1+n_b)$的二维数组，$(i,j)$格子存的是考虑前$i$个group a里的instances，前$j$个group b里的instances得到的最优路径$o^{\ast }(p^{a(:i)},p^{b(:j)})$，它是根据$o^{\ast }(p^{a(:i-1)},p^{b(:j)}),o^{\ast }(p^{a(:i)},p^{b(:j-1)})$计算得到的：

如果$\hat{G}(o^{\ast }(p^{a(:i-1)},p^{b(:j)})+p^{a(i)})>\hat{G}(o^{\ast }(p^{a(:i)},p^{b(:j-1)})+p^{b(j)})$:
$o^{\ast }(p^{a(:i)},p^{b(:j)})=o^{\ast }(p^{a(:i-1)},p^{b(:j)})+p^{a(i)}$
否则：$o^{\ast }(p^{a(:i)},p^{b(:j)})=o^{\ast }(p^{a(:i)},p^{b(:j-1)})+p^{b(j)}$

$\hat{G}(o(p^{a(:i)},p^{b(:j)}))=k_{a,b}\cdot \text{xAUC}(o(p^{a(:i)},p^{b(:j)}+p^{b(j+1:n^b)}))+k_{b,a}\cdot \text{xAUC}(o(p^{b:j},p^{a:i}+p^{a(i+1:n^a)}))+\lambda k\cdot |\text{xAUC}(o(p^{a(:i)},p^{b(:j)}+p^{b(j+1:n^b)}))-\text{xAUC}(o(p^{b(:j)},p^{a(:i)})+p^{a(i+1:n^a)})|$

这里$\hat{G}$计算$\text{xAUC}$时会加上后面组的剩余序列的原因是保证后面组的负样本都在整体序列里，从而能够正确计算前面组的正样本排序高于后面组的负样本的概率。

文中作者给了某一步计算的图例，方便理解：
同时要注意先初始化边缘格子，即$(0,j),(i,0)$。显然他们的最优路径只有一条。

整体算法如下如所示：

至此，对于训练集的ordering（融合排序）计算过程结束。但是训练阶段的排序结果并不能直接用于测试阶段的ordering。因此作者提出一种迁移方法来把训练集排序知识迁移到测试阶段。（为什么对测试集不用同样的动态规划方法计算，个人感觉是因为O(N^2)开销太大，不能很好的保证应用时的实时性，对于训练集这种offline的过程对于时间就没那么敏感。

test phrase
为了把训练集的ordering知识迁移到测试集上，作者假设预测的排序得分的分布在训练集上和测试集上是一样的。也就是同一的分带来的排序作用在两个集合中是相同的。基于此，作者提出了一种通过线性插值重计算得分的方法。具体步骤如下：
step1：保持训练集里group a的instances的得分不变，按照融合排序列表里group b的instances的位置来adjust他们的scores，使得整体排序的得分看起来是均匀下降的。比如对于列表$(p^{a(1)},p^{b(1)},p^{b(2)},p^{a(2)})$，$p^{a(1)},p^{a(2)}$的ranking scores是$0.8,0.5$，adjust的$p^{b(1)},p^{b(2)}$的得分就应该是$0.7,0.6$。
step2：首先按照scores得到group b的order list。然后按照训练集里group b的instances的放缩程度来放缩测试集里的group b的scores。比如对于测试集group b里的某instance，原始得分是$p_{te}^{b(i)}$，假设对于某训练集的排序序列的原始得分$p^{b(1)},p^{b(2)}$(表示排序里最高的一个instance和最低的一个instance)是$0.8,0.5$，经过adjust后变成了$0.7,0.4$，那么该测试集的样本调整过后的得分${\hat{p}}_{te}^{b(i)}$在$[0.4,0.7]$的分位数应该和$p_{te}^{b(i)}$在$[0.5,0.8]$里的一样：$\frac{0.7-{\hat{p}}_{te}^{b(i)}}{0.7-0.4}-\frac{0.8-p_{te}^{b(i)}}{0.8-0.5}$。通过求解这个等式得到adjust后的测试集里group b的scores。然后可以根据新的scores得到最终的融合排序。

文中还提出了一些算法的理论命题，比如当$\lambda =0$的时候这个动态规划算法能够得到优化目标的全局最优解，当$\lambda \to \infty$时，算法的公平性差异的上界是：
$$\begin{gathered} \Delta \text{xAUC}\le \max (\frac{1}{n_1^a},\frac{1}{n_1^b}) \\ \Delta \text{PRF}\le \max (\frac{n_0^b}{n_0\cdot n_1^a},\frac{n_0^a}{n_0\cdot n_1^b}) \end{gathered}$$
具体的证明就不细讲了，感兴趣的同学可以阅读原文~