“Anyone looking into this stuff needs to read”
The impossibility of "fairness": a generalized impossibility result for decisions
证明不同群体基础率不同时,几种直观的公平度量不可能同时成立
已有工作表明某些预测器的偏见度量彼此不相容。作者进一步证明,当不同群体中被预测事件的发生率不同时,几种直观合理的公平度量(给定发生或不发生时预测为正的概率、给定预测或不预测时发生的概率,以及每个群体预测数与发生数之比)两两互斥:只要其中一个在群体间相等,另外两个就必然不等,只有完美预测器或平凡预测器(总是正或总是负)例外。因此任何非完美、非平凡的预测器在三组合理标准中必然有两组「不公平」。结论还可推广到敏感度、特异度、假阳性率、精确率等常见统计量,并同样适用于算法和人类预测者。
讨论算法公平与歧视时,评论者推荐它,用来说明各种公平标准必然相互冲突,任何不完美的风险评分总会在某个度量上显得对受保护群体有歧视。
学习路径
读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出候选里与这篇不可能性结果直接相关的是机会均等的公平性准则和复犯预测中的偏差研究,它们是该结果要统一的几种公平度量的来源。
- 1
给出基于错误率的公平性准则(机会均等),是被证明互相冲突的度量之一。
读读机会均等与均等化赔率(equalized odds)的定义及事后调整方法。
- 2
在复犯预测中展示预测值平等与错误率平等不能同时满足,是这篇广义不可能性的前序结果。
读读几种公平度量之间的不相容性与基础率不同的条件。
- 3The impossibility of "fairness": a generalized impossibility result for decisions
把不相容结果推广到更一般的决策情形,证明基础率不同时几种度量不可能同时成立。
读重点读三种度量的定义和它们为何互斥的证明,以及唯一的例外情形。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“I recommend _The impossibility of “fairness”: a generalized impossibility result for decisions_[0]”
“then there will always be some measurement that says it's discriminatory on protected classes: The impossibility of "fairness"”
“My search only revealed The impossibility of "fairness" which has no mention whatsoever of the old fashioned idea of”
- The impossibility of fairness: a generalized impossibility result for decisions ↗bobcostas55 · 2021-08-28 · 3 分
- The impossibility of “fairness”:a generalized impossibility result for decisions ↗josephcsible · 2022-07-06 · 2 分