如何将因果干预用于提升模型公平性？

©PaperWeekly 原创 · 作者 | 张一帆

学校 | 中科院自动化所博士生

研究方向 | 计算机视觉

近期因果推理相关研究荣获诺贝尔经济学奖，本文通过三篇文章简单介绍一下 Causal Algorithmic Recourse 这个任务以及近期的进展。首先我们来介绍一下问题的背景，令 代表可观测特征， 代表受保护属性，可以简单理解为多个 domain， 是 domain label。一个二分类器 预测数据标签 。我们能观察到的只有数据集 。

Algorithmic fairness

Algorithmic fairness 作为一个更大众也是被研究更多的任务，发现和纠正自动化决策系统潜在的歧视性行为。给定一个数据集，该数据集包含来多个群体（例如，根据年龄、性别或种族定义）的个人，以及经过训练以进行决策的二元分类器（例如，这些人是否被批准使用信用卡）。

一个直观的例子是，如果我们的训练数据存在一些年龄的歧视。日常生活中老年人可能更小概率被批准使用，所以我们的数据隐含着这种先验，因此最后分类器可能也会被个体的年龄所误导。但是真实情况是，我们并不希望分类器被这些保护属性，而是希望它尽可能公平（fairness），即只根据财政状况本身进行分类。

大多数实现算法公平的方法都试图根据一些预先定义的（统计或因果）标准量化不公平的程度，然后通过改变分类器来纠正它。这种预测公平性的概念通常认为数据集是固定的，因此个体是不可改变的。

Algorithmic Recourse

Algorithmic Recourse 与 fairness 的目的相同，都是为了更加公平，但是手段不同。Recourse 顾名思义，是为那些被决策系统不利对待的人提供建议，以克服他们的不利处境，是通过修改数据来改变 unfairness 的手段。对于给定的分类器和错误分类的个体，Algorithmic Recourse 的目的是识别个体可以执行哪些改变来翻转决策。与 Algorithmic fairness 相反，recourse 认为分类器是固定的，但是个人本身可以采取行动。一句话，recourse 指的是通过改变变量的值来影响模型预测结果的能力，公式化为：

这里的 是一组可行的变化向量， 是定义在这一组行为上的花费函数，这二者都取决于单个样本本身。这样独立的对变量进行操作是有一定问题的，我们称这个假设为 independently-manipulable features（IMF），只有当被操作变量对其他变量没有的影响时，这种操作才是合理的。但是我们知道，特征之间往往是有一定的因果关系的，如何刻画这种关系呢？下文给出了答案。

论文标题：

Algorithmic Recourse: from Counterfactual Explanations to Interventions

论文链接：

https://arxiv.org/abs/2002.06278

这篇文章提出了 cau