Fairness in Deep Learning: A Computational Perspective

最新推荐文章于 2022-11-26 17:15:33 发布
最新推荐文章于 2022-11-26 17:15:33 发布
阅读量375 收藏
点赞数
分类专栏： 机器学习公平性测试 文章标签： 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhu1534120216/article/details/109406547
版权

深度学习的公平性:计算的角度

利用深度学习缓解歧视性，从三个方面：Discrimination via Input，Discrimination via Representation，Prediction Quality Disparity的三个阶段Pre-processing， In-processing，Post-processing论述缓解的方法。

一、Discrimination via Input

（1）Pre-processing：用替代值替换这些对公平性敏感的特征

（2）In-processing：通过模型正则化。正则化隐式或非规则地优化了公平性度量

（3）Post-processing：在推理时间内利用模型的预测和保护属性对模型的预测进行校准

二、Discrimination via Representation

（1）Pre-processing：收集平衡的数据集是缓解代表偏差的一种可能方法

（2）In-processing：对抗性训练

（3）Post-processing：抑制已捕获保护属性的神经元

三、Prediction Quality Disparity

（1）Pre-processing：强化训练数据集的多样性

（2）In-processing：规范化的模型训练-----迁移学习

 

肉嘟嘟的zhu
关注
专栏目录
【论文阅读笔记】NeurIPS2020文章列表Part2
zincrain的博客
12-09 6072
Online Multitask Learning with Long-Term Memory Fewer is More: A Deep Graph Metric Learning Perspective Using Fewer Proxies Adaptive Graph Convolutional Recurrent Network for Traffic Forecasting On Reward-Free Reinforcement Learning with Linear Function A.
Reasons, Values, Stakeholders: A Philosophical Framework for Explainable Artificial Intelligence
weixin_42786150的博客
02-28 1155
arXiv:2103.00752v1 [cs.CY] 1 Mar 2021 Reasons, Values, Stakeholders: A Philosophical Framework for Explainable Artificial Intelligence Atoosa Kasirzadeh atoosa.kasirzadeh@mail.utoronto.ca University of Toronto (Toronto, Canada) &Australian Natio.
深度学习中的公平性
XP and Altoria
04-02 2579
介绍 深度学习十分流行，在许多领域有着不错的表现。然而，深度学习算法中的公平性(fairness) 亦是重要的研究方向。这次，我们以Du的一篇文章为例，给大家介绍一下深度学习中的公平性。 Fairness in Deep Learning: A Computational Perspective 分类 首先我们需要对公平性问题进行分类，然后在分别进行相关工作的介绍。 大致上，公平性问题可以分为： 预测输出的歧视 (Prediction Outcome Discrimination) 对于招聘系统，在
深度学习的一些感悟记录
weixin_43279911的博客
03-27 1961
深度学习的一些感悟记录 最近阅读王戈教授（Ge Wang，PhD，IEEE Fellow）的文章A perspective on deep imaging，文中主要着墨于深度学习在data-to-image的过程，提出了对深度学习原理的一些想法，因此我也有一些感悟记录。 背景： 从最早的人工神经网络的提出，人类借助自然中神经元的连接和发放规律，提出了人工神经元的概念。MLP协助人类解决了初级的模式...
Fairness in Machine Learning: A Survey 阅读笔记
Catherine_he_ye的博客
11-26 1463
FAIRNESS IN MACHINE LEARNING: A SURVEY（A PREPRINT） Simon Caton, Christian Haas Keywords fairness, accountability, transparency, machine learning
机器学习和深度学习简介_缓解机器学习中的偏见mlfairnesspipeline简介
weixin_26750481的博客
09-26 829
机器学习和深度学习简介 机器学习的偏见 (Bias in Machine Learning) Bias takes many different forms and impact all groups of people. It can range from implicit to explicit and is often very difficult to detect. In the fie...
Conceptual Challenges for Interpretable Machine Learning
weixin_42786150的博客
03-01 1439
Conceptual Challenges for Interpretable Machine Learning David S. Watson1 'Department of Statistical Science, University College London, London, UK Email for correspondence: david.watson@ucl.ac.uk §0 Abstract As machine learning has gradually entere..
Why Explainability in Models Matters: 4 Methods to Achieve Interpretable AI
# The Importance of Model ...The importance of model interpretability has been a widely discussed topic in the construction and deployment of artificial intelligence systems in recent years. This i
A Qualitative Exploration of Perceptions of Algorithmic Fairness
weixin_42786150的博客
02-28 4049
A Qualitative Exploration of Perceptions of Algorithmic Fairness
【机器学习中的公平性】Fairness in Machine Learning
AesopUtopia
02-20 3801
原文出处：https://blog.godatadriven.com/fairness-in-pytorch 近几年，机器学习的公平性广泛地引起科研与开发人员的关注。简单而言，由于不同的社会环境，导致同样的算法，预测结果可能出现较大差异。Stijn 提出的对抗网络（adversarial network）也许可以作为辅助，提高预测的公平性，减少偏差。 对抗网络原理 https://pa...
【推荐系统】深入理解推荐系统：Fairness、Bias和Debias
fengdu78的博客
07-20 3931
写在前面【推荐系统】专栏历史文章：深入理解YouTube推荐系统算法深入理解推荐系统：召回深入理解推荐系统：排序作为【推荐系统】系列文章的第四篇，将以推荐系统的“Fairness公平性”...
机器学习模型的衡量指标_在机器学习模型中衡量公平性
weixin_26731327的博客
10-15 3308
机器学习模型的衡量指标In our previous article, we gave an in-depth review on how to explain biases in data. The next step in our fairness journey is to dig into how to detect biased machine learning models.在上一篇文...
Deep Learning based Recommender System: A Survey and New Perspectives （1）
Learning from the mistakes
11-28 7209
感想 最近看了一篇基于深度学习的推荐系统的综述，这个综述还是蛮新的，论文上显示的时间是2017年8月3号，讲得挺全的，读完后，我对深度学习应用推荐系统有了一个比较深的认识，我这里分享出来，希望也能够帮助大家的研究和学习，当然，本人水平有限，如果有错误，可以指正，我们共同进步哈。 1 介绍 互联网信息的爆炸性增长使用户迷失，推荐系统（Recommender system，RS）是一
公平性机器学习中基于分类间隔的歧视样本发现和消除算法
大肉包的博客
12-02 945
发表于中国科学：信息科学 主要是提出了提出了一种基于分类间隔的加权方法用于处理二分类任务中的歧视现象, 并在 demographic parity 和 equalized odds 公平性判定准则上实现分类公平。通过发现和消除原始数据集中的歧视样本寻找生成公平数据集的方法。 论文中总结了机器学习公平性的研究，大致归为以下 3 大类： 第 1 类方法通过数据预处理消除歧视样本. 主要策略是通过修改训练集来平衡分类公平性和准确性, 如修改样本属性、 修改样本标签、 修改训练集大小； 第 2 类方法在模型的
THEMIS 机器学习公平性测试
大肉包的博客
07-22 825
我们的因果歧视评分是一种更强的歧视测量，因为它在软件中寻找因果关系，测量输入的分数，改变特定的输入特征导致输出改变。因果辨别评分确定哪些特征会直接影响输出结果，例如，虽然群体和明显的歧视得分惩罚软件提供贷款给不同的分数对于不同种族的个人，因果歧视评分会惩罚向一个种族的个人提供贷款的软件，而不是向另一个种族的相同个人提供贷款的软件。 群体歧视(算法1)测量群体歧视得分相对于其输入特征X '的子集。根据定义3.6,GroupDiscrimination将X '固定在特定的值上(第2行)，以计算固定了X '
Handling Conditional Discrimination（可解释歧视和确切的歧视）
大肉包的博客
09-21 510
文章创新点在于提出了一种新的概念，可解释属性和敏感属性之间的关联导致了可能存在一些“歧视”，这种“歧视”是可以被理解和接受的，可以被忽略和剔除的。再者，剔除的方法也是论文的一大改进之处。 Dall= Dexpl+ Dbad Dexpl：举例子，学校录取学生，假设男女生各录取20人。其中男生报名的有100人，录取20人，录取率为20%。女生报名的200人，录取20人，录取率为10%。此时，总体上看男女生录取率是存在20%-10%=10%的偏差的，可能会误以为存在对女生的歧视，歧视值为10%。但是实际上呢，
Fair Attribute Classification through Latent Space De-biasing
大肉包的博客
12-14 479
题目：通过潜在空间去偏的公平属性分类 研究背景：大规模监督学习一直是视觉识别发展背后的驱动力。然而，最近人们越来越担心这些视觉识别系统的不同影响。人脸识别系统从没有充分代表某些种族群体的数据集训练，对这些群体显示出较低的准确率。在被描述的人的活动性和性别表达高度相关的数据集上训练的活动识别模型已经过度放大了这些相关性。计算机视觉系统是一种经过训练的统计模型，可以在大多数例子上获得最大的准确性，它们通过利用数据集中最具鉴别性的线索来做到这一点，这可能是不受欢迎的。在这项工作中，我们引入了一种新的训练计算机视
On Formalizing Fairness in Prediction with Machine Learning
大肉包的博客
07-22 460
公平的定义和衡量标准 文献中提出了几种公平的定义，但还没有形成明确的共识。然而，这些定义可以用作在ML测试中检测违反公平性的预言。 为了帮助说明ML公平性的形式化，我们使用X表示一组个体，Y表示在对X中的每个个体进行决策时的真实标签集。设h是训练好的机器学习预测模型。设A为敏感属性集，Z为剩余属性。 1)Fairness Through Unawareness 无意识公平。无意识公平(FTU)意味着只要在决策过程中没有明确使用受保护的属性，算法就是公平的[206]。这是一种成本相对较低的界..
Automated Machine Learning: Methods, Systems, Challenges
最新发布
04-16
Automated Machine Learning refers to the ... However, there are still many challenges to overcome in the development of Automated Machine Learning, including scalability, interpretability, and fairness.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值