按年被提到
20182020 · 2 次2026
机器学习与深度学习›机器学习实践与反思·arXiv:1803.04383 · cs.LG

Delayed Impact of Fair Machine Learning

公平机器学习的延迟影响
Lydia T. Liu, Sarah Dean, Esther Rolf, Max Simchowitz, Moritz Hardt · 2018

静态公平约束长期来看可能无助于甚至有害于受保护群体

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 3 人首次 2019-01-23 · 最近 2020-12-04
3不同的人
3活跃月份
3讨论串
236被引(OpenAlex)

研究静态公平性准则如何与长期福祉指标(改善、停滞、恶化)相互作用。在单步反馈模型中证明:常见公平准则一般并不促进长期改善,甚至会在无约束目标不会造成伤害的情形下带来伤害。论文完整刻画了三种标准准则的延迟影响并对比其不同表现区间,还发现一种自然形式的测量误差会拓宽准则表现良好的范围,说明测量和时间建模在评估公平性时的重要性。

HN 为什么提它

评论者用它说明“让算法更公平”如果忽略所处的反馈回路,可能反而带来更差的结果,并把它列入自己喜欢的 FAT 论文。

其他难度 4 / 5约 60 分钟经得起时间
读之前最好知道
1机器学习中的公平性准则(fairness criteria)
2分类与阈值决策
3基础概率与动态模型
4反馈回路

学习路径

读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

先理解两条常用的静态公平性准则及它们之间的张力,再读这篇研究公平约束长期影响的论文。

  1. 1
    Equality of Opportunity in Supervised Learning监督学习中的机会均等 · 2016

    提出的机会均等准则正是 Delayed Impact 分析的公平约束之一。

    读理解机会均等与各群体真阳性率相等的定义及事后调整方法。

  2. 2

    分析再犯预测中的公平性与准则冲突,说明不同静态准则可能互不相容。

    读抓住差异化影响和预测公平之间的权衡;统计细节可略。

  3. 3
    Delayed Impact of Fair Machine Learning公平机器学习的延迟影响 · 2018 · 就是这篇

    把一步反馈模型放进公平性分析,表明静态准则未必长期改善受保护群体。

    读抓住一步反馈模型与福利变化的刻画,以及不同准则下改善、停滞、损害三种结果的区分。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐google234123 · 2020-09

“There was a good paper on this topic about how trying to make a model more fair can result in worst outcomes: Delayed Impact of Fair Machine Learning”

推荐这篇论文,讲让模型更公平反而可能导致更糟的结果
Algorithm Helps New York Decide Who Goes Free Before Trial原评论 ↗
推荐lightcatcher · 2020-12

“Here are some FAT papers I've enjoyed:”

列为自己喜欢的 FAT 论文之一,说明公平约束长期可能伤害弱势群体
AI researcher Timnit Gebru resigns from Google原评论 ↗
引用yorwba · 2019-01

“For a mathematically precise description of how attempts to make an algorithm more fair cause worse results when you consider the feedback loop that it is embedded in, see”

引用它,用数学精确描述公平尝试在反馈回路中如何导致更差结果
Alexandria Ocasio-Cortez Is Absolutely Right About Racist Algorithms原评论 ↗