按年被提到
20172022 · 2 次2026
社会、经济与科学研究›科研评价与算法公平·arXiv:1707.01195 · stat.AP

The impossibility of "fairness": a generalized impossibility result for decisions

「公平」的不可能性:决策的广义不可能性结果
Thomas Miconi · 2017

证明不同群体基础率不同时,几种直观的公平度量不可能同时成立

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 3 人首次 2018-06-07 · 最近 2023-03-15
3不同的人
6活跃月份
6讨论串
18被引(OpenAlex)

已有工作表明某些预测器的偏见度量彼此不相容。作者进一步证明,当不同群体中被预测事件的发生率不同时,几种直观合理的公平度量(给定发生或不发生时预测为正的概率、给定预测或不预测时发生的概率,以及每个群体预测数与发生数之比)两两互斥:只要其中一个在群体间相等,另外两个就必然不等,只有完美预测器或平凡预测器(总是正或总是负)例外。因此任何非完美、非平凡的预测器在三组合理标准中必然有两组「不公平」。结论还可推广到敏感度、特异度、假阳性率、精确率等常见统计量,并同样适用于算法和人类预测者。

HN 为什么提它

讨论算法公平与歧视时,评论者推荐它,用来说明各种公平标准必然相互冲突,任何不完美的风险评分总会在某个度量上显得对受保护群体有歧视。

其他难度 2 / 5约 25 分钟经得起时间
读之前最好知道
1条件概率
2混淆矩阵与敏感度、特异度、精确率
3基础率(prevalence)
4算法公平性的常见度量

学习路径

读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

候选里与这篇不可能性结果直接相关的是机会均等的公平性准则和复犯预测中的偏差研究,它们是该结果要统一的几种公平度量的来源。

  1. 1
    Equality of Opportunity in Supervised Learning监督学习中的机会均等 · 2016

    给出基于错误率的公平性准则(机会均等),是被证明互相冲突的度量之一。

    读读机会均等与均等化赔率(equalized odds)的定义及事后调整方法。

  2. 2

    在复犯预测中展示预测值平等与错误率平等不能同时满足,是这篇广义不可能性的前序结果。

    读读几种公平度量之间的不相容性与基础率不同的条件。

  3. 3
    The impossibility of "fairness": a generalized impossibility result for decisions「公平」的不可能性:决策的广义不可能性结果 · 2017 · 就是这篇

    把不相容结果推广到更一般的决策情形,证明基础率不同时几种度量不可能同时成立。

    读重点读三种度量的定义和它们为何互斥的证明,以及唯一的例外情形。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
强烈推荐bobcostas55 · 2020-02

“Anyone looking into this stuff needs to read”

强烈推荐,认为研究这类问题的人都必须读
Setting fairness goals with the TensorFlow constrained optimization library原评论 ↗
推荐bobcostas55 · 2018-06

“I recommend _The impossibility of “fairness”: a generalized impossibility result for decisions_[0]”

推荐读这篇关于「公平」不可能性的论文
AI at Google: our principles原评论 ↗
引用josephcsible · 2022-02

“then there will always be some measurement that says it's discriminatory on protected classes: The impossibility of "fairness"”

引它说明总有某种度量会显示对受保护群体存在歧视
How can minorities of regular individuals overturn social conventions?原评论 ↗
引用olddustytrail · 2023-03

“My search only revealed The impossibility of "fairness" which has no mention whatsoever of the old fashioned idea of”

质疑这篇论文完全没有谈到传统意义上的种族问题
Responsible AI Challenge原评论 ↗
被提交为 story · 2 次