©PaperWeekly 原创 · 作者 | 张一帆
学校 | 中科院自动化所博士生
研究方向 | 计算机视觉
近期因果推理相关研究荣获诺贝尔经济学奖,本文通过三篇文章简单介绍一下 Causal Algorithmic Recourse 这个任务以及近期的进展。首先我们来介绍一下问题的背景,令 代表可观测特征, 代表受保护属性,可以简单理解为多个 domain, 是 domain label。一个二分类器 预测数据标签 。我们能观察到的只有数据集 。
Algorithmic fairness
Algorithmic fairness 作为一个更大众也是被研究更多的任务,发现和纠正自动化决策系统潜在的歧视性行为。给定一个数据集,该数据集包含来多个群体(例如,根据年龄、性别或种族定义)的个人,以及经过训练以进行决策的二元分类器(例如,这些人是否被批准使用信用卡)。
一个直观的例子是,如果我们的训练数据存在一些年龄的歧视。日常生活中老年人可能更小概率被批准使用,所以我们的数据隐含着这种先验,因此最后分类器可能也会被个体的年龄所误导。但是真实情况是,我们并不希望分类器被这些保护属性,而是希望它尽可能公平(fairness),即只根据财政状况本身进行分类。
大多数实现算法公平的方法都试图根据一些预先定义的(统计或因果)标准量化不公平的程度,然后通过改变分类器来纠正它。这种预测公平性的概念通常认为数据集是固定的,因此个体是不可改变的。
Algorithmic Recourse
Algorithmic Recourse 与 fairness 的目的相同,都是为了更加公平,但是手段不同。Recourse 顾名思义,是为那些被决策系统不利对待的人提供建议,以克服他们的不利处境,是通过修改数据来改变 unfairness 的手段。对于给定的分类器和错误分类的个体,Algorithmic Recourse 的目的是识别个体可以执行哪些改变来翻转决策。与 Algorithmic fairness 相反,recourse 认为分类器是固定的,但是个人本身可以采取行动。一句话,recourse 指的是通过改变变量的值来影响模型预测结果的能力,公式化为:
这里的 是一组可行的变化向量, 是定义在这一组行为上的花费函数,这二者都取决于单个样本本身。这样独立的对变量进行操作是有一定问题的,我们称这个假设为 independently-manipulable features(IMF),只有当被操作变量对其他变量没有的影响时,这种操作才是合理的。但是我们知道,特征之间往往是有一定的因果关系的,如何刻画这种关系呢?下文给出了答案。
论文标题:
Algorithmic Recourse: from Counterfactual Explanations to Interventions
论文链接:
https://arxiv.org/abs/2002.06278
这篇文章提出了 cau