What is Fair about Indicidual Fairness

What’s Fair about Individual Fairness?

作者：Will Fleisher

本文阐述了两个观点对于个体公平：

1. 个体公平不能作为公平的定义。
2. 个体公平的方法不应该优先于其他公平方法，也不应该与其他方法独立使用。

提出了四个问题论证上述观点：

1. similar treatment的不足：反例表明，similar treatment不足以保证公平；
2. 系统偏差和人类决策者：用于学习相似性度量的个体公平方法存在编码人类隐性偏见的风险。
3. 先前的道德判断：个体公平方法需要事先的道德判断，限制了其作为公平指南的有用性，并破坏了其定义公平的主张。
4. 不可比性：相关道德价值观的不可比性使得相似度量对于许多任务来说是不可能的。

Background and related work

一、 群体公平

群体公平的方法试图根据由算法产生的决策或预测所施加的统计奇偶性标准（或条件）来定义公平性。

人们提出了各种各样的群体公平定义，但对哪一种最有希望几乎没有达成一致。没有一个问题本身似乎足以捕捉到Barocas等人（2019年）关于公平的直觉概念。此外，对于许多这些标准的充分性，也存在一些反例。这些反例是算法满足问题的奇偶性条件，但该决定似乎对Dwork等人（2012）的个人“公然不公平”；更有问题的是，许多最有前途的群体公平约束是相互不相容的：不可能同时满足Chouldechova (2017); Kleinberg, Mullainathan, and Raghavan (2016).

二、个体公平

首先由Dwork等人提出，将公平的本质视为相似的个体应该被相似的对待。Gillen, Jung, Kearns, and Roth (2018); Ilvento (2020); Joseph, Kearns, Morgenstern, and Roth (2016); Kearns and Roth (2019); Kearns, Roth, and Wu (2017); Mukherjee, Yurochkin, Banerjee, and Sun (2020); Wang, Grgic-Hlaca, Lahoti, Gummadi, and Weller (2019)) 将这一原则称为 similar treatment.

个体公平的支持者认为：similar treatment是对公平的直观定义，并试图对这一原则进行精确的数学处理。

个体公平性通常使用两个距离指标进行精确定义。第一种是相似度度量：一种度量个体之间相似度程度的距离度量。第二个指标是衡量两个人获得一个决策的各种结果的机会的差异。根据相似性度量，个体结果的距离要求两个个体之间的距离不大于他们的距离。

个体公平（IF）定义：一个映射M：V→∆(A)满足(D，d)-Lipschitz性质，如果对于每个x，y∈V，我们有：

D(Mx,My)≤d(x,y)

备注：

1. x,y ∈V是表示个体，V是一组个体。
2. M是一个根据结果A分配给个体的概率分布函数。
3. D是距离函数：测量了M分配给两个个体的概率的差异。
4. 两个个体之间的相似度度量用d表示。

举例子：

假设一个算法M被用于大学录取决定。M提供了一个预测，给出了申请人应该被录取的可能性。假设有两个申请者，x和y非常相似：他们的GPA和SAT成绩相似，并且来自