“There was a good paper on this topic about how trying to make a model more fair can result in worst outcomes: Delayed Impact of Fair Machine Learning”
按年被提到
20182020 · 2 次2026
Delayed Impact of Fair Machine Learning
公平机器学习的延迟影响
Lydia T. Liu, Sarah Dean, Esther Rolf, Max Simchowitz, Moritz Hardt · 2018
静态公平约束长期来看可能无助于甚至有害于受保护群体
被推荐 · 3 人首次 2019-01-23 · 最近 2020-12-04
3不同的人
3活跃月份
3讨论串
236被引(OpenAlex)
研究静态公平性准则如何与长期福祉指标(改善、停滞、恶化)相互作用。在单步反馈模型中证明:常见公平准则一般并不促进长期改善,甚至会在无约束目标不会造成伤害的情形下带来伤害。论文完整刻画了三种标准准则的延迟影响并对比其不同表现区间,还发现一种自然形式的测量误差会拓宽准则表现良好的范围,说明测量和时间建模在评估公平性时的重要性。
HN 为什么提它
评论者用它说明“让算法更公平”如果忽略所处的反馈回路,可能反而带来更差的结果,并把它列入自己喜欢的 FAT 论文。
其他难度 4 / 5约 60 分钟经得起时间
读之前最好知道
1机器学习中的公平性准则(fairness criteria)
2分类与阈值决策
3基础概率与动态模型
4反馈回路
学习路径
读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出先理解两条常用的静态公平性准则及它们之间的张力,再读这篇研究公平约束长期影响的论文。
- 1
提出的机会均等准则正是 Delayed Impact 分析的公平约束之一。
读理解机会均等与各群体真阳性率相等的定义及事后调整方法。
- 2
分析再犯预测中的公平性与准则冲突,说明不同静态准则可能互不相容。
读抓住差异化影响和预测公平之间的权衡;统计细节可略。
- 3Delayed Impact of Fair Machine Learning
把一步反馈模型放进公平性分析,表明静态准则未必长期改善受保护群体。
读抓住一步反馈模型与福利变化的刻画,以及不同准则下改善、停滞、损害三种结果的区分。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及推荐google234123 · 2020-09
推荐这篇论文,讲让模型更公平反而可能导致更糟的结果
推荐lightcatcher · 2020-12
“Here are some FAT papers I've enjoyed:”
列为自己喜欢的 FAT 论文之一,说明公平约束长期可能伤害弱势群体
引用yorwba · 2019-01
“For a mathematically precise description of how attempts to make an algorithm more fair cause worse results when you consider the feedback loop that it is embedded in, see”
引用它,用数学精确描述公平尝试在反馈回路中如何导致更差结果