按年被提到
20162018 · 2 次2026
机器学习与深度学习›贝叶斯方法与 AutoML·arXiv:1610.02413 · cs.LG

Equality of Opportunity in Supervised Learning

监督学习中的机会均等
Moritz Hardt, Eric Price, Nathan Srebro · 2016

提出机会均等的公平性准则,并可事后调整任意预测器以满足它

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 5 人首次 2017-01-19 · 最近 2021-08-20
5不同的人
5活跃月份
5讨论串
2,530被引(OpenAlex)

论文针对指定敏感属性,提出监督学习中衡量歧视的准则,并在已知预测器、目标和群体成员信息的前提下,展示如何最优地调整任意已学得的预测器以消除按此定义的歧视。该框架还把分类不佳的代价从弱势群体转移给决策者,从而改善激励。作者认为这类准则是「无视的」,只依赖预测器、目标和受保护属性的联合统计,因此研究了此类度量能推断什么、不能推断什么,并以 FICO 信用分的案例说明。

HN 为什么提它

讨论算法公平与贷款歧视时,评论者把它当作形式化公平定义的经典出处,用来说明对不同群体采用不同阈值,以及在最优算法上施加公平约束时会产生的权衡。

方法难度 3 / 5约 40 分钟经得起时间
读之前最好知道
1监督学习与分类器
2真阳性率、ROC 曲线与阈值
3算法公平性(fairness)的基本概念
4条件概率与联合分布

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
强烈推荐3wolf · 2021-08

“Highly recommend it: Equality of Opportunity in Supervised Learning”

强烈推荐这篇论文
Moving beyond “algorithmic bias is a data problem”原评论 ↗
推荐lcrmorin · 2020-12

“Really make you see what may go wrong with bias in ML.”

推荐它,让人看清 ML 中偏见可能出什么问题
Ask HN: What's the best paper you've read in 2020?原评论 ↗
引用dlss · 2017-01

“Google has actually released a paper on codifying what discrimination looks like for lending”

指出谷歌发表了论文,把借贷中的歧视形式化
U.S. sues Oracle, alleges salary and hiring discrimination原评论 ↗
引用yorwba · 2018-06

“discusses various fairness measures in the context of deciding loan applications based on credit scores.”

拿它说明如何用信用分数讨论贷款决策中的各种公平度量
Harvard discrimination lawsuit: data show penalization of Asian-Americans原评论 ↗
引用lalaland1125 · 2018-09

“once you have the most optimal algorithm. See for instance Equality of Opportunity in Supervised Learning.”

拿它说明在最优算法上强加公平性会带来取舍
Making a racist AI without really trying (2017)原评论 ↗