按年被提到
20192019 · 5 次2026
AI 安全、伦理与社会影响›算法偏见与监控·arXiv:1902.11097 · cs.CV

Predictive Inequity in Object Detection

目标检测中的预测不公平
Benjamin Wilson, Judy Hoffman, Jamie Morgenstern · 2019

检测系统对深肤色行人的识别表现更差,并非场景更难所致

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2019-03-07 · 最近 2019-08-30
4不同的人
3活跃月份
5讨论串
271被引(OpenAlex)

论文给大规模行人数据集 BDD100K 按 Fitzpatrick 皮肤色阶(1–3 与 4–6)做标注,比较目标检测系统在两组行人上的表现,发现差距不能用时段或遮挡来解释。作者进一步检验了时段、遮挡以及训练时对监督损失重新加权对这种偏差的影响。

HN 为什么提它

HN 上的人把它当作“检测器对深肤色行人表现更差”的出处引用,也有人指出摘要信息少、研究存在不少局限。

实证研究难度 2 / 5约 25 分钟有时效性
读之前最好知道
1目标检测(object detection)
2机器学习中的公平性(fairness)
3数据集标注与偏差
4训练损失加权(reweighting)

学习路径

读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径先了解算法公平性的基本概念与权衡,再看目标检测器的代表模型,最后读目标论文如何按肤色检验行人检测的表现。

  1. 1

    经典的算法偏见案例研究,说明风险评分中不同群体错误率不同的问题。

    读差别影响(disparate impact)与各群体误差率的比较方式。

  2. 2
    Inherent Trade-Offs in the Fair Determination of Risk Scores公平确定风险评分中的内在权衡 · 2016

    证明多种公平性条件无法同时满足,帮助理解为什么要选定具体的公平性度量。

    读三个公平性条件及其不可兼得的结论;证明细节可略过。

  3. 3
    Equality of Opportunity in Supervised Learning监督学习中的机会均等 · 2016

    机会均等准则定义了按群体比较真正例率等指标的方式,与目标论文按肤色比较召回的思路一致。

    读equalized odds 与 equal opportunity 的定义,以及事后调整的思路。

  4. 4
    Faster R-CNN: Towards Real-Time Object Detection with Region Proposal NetworksFaster R-CNN:用区域建议网络实现实时目标检测 · 2015

    目标论文评估的是此类目标检测系统,Faster R-CNN 是其中最典型的两阶段检测器。

    读区域建议网络与检测头共享特征的结构;只需了解检测输出如何评估。

  5. 5
    Predictive Inequity in Object Detection目标检测中的预测不公平 · 2019 · 就是这篇

    目标论文:在 BDD100K 上标注 Fitzpatrick 肤色,比较检测系统在不同肤色行人上的表现。

    读标注方法、按肤色分组的召回对比,以及时间与遮挡等因素为何不能解释差距。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
批评uberman · 2019-03

“The abstract is unfortunately also very light on detail.”

Self-driving cars may be more likely to hit you if you have dark skin原评论 ↗
批评js2 · 2019-04

“I'm not denying the conclusion of the paper, but it does have a lot of limitations.”

MIT Researcher Exposing Bias in Facial Recognition Tech Triggers Amazon’s Wrath原评论 ↗
引用czr · 2019-03

“The paper is good a reminder of the importance of fine-tuning any pedestrian detection system to fix imbalances in your dataset, and avoid false negatives.”

拿它提醒要微调行人检测系统以纠正数据集失衡、避免漏检
Autonomous Cars Can't Recognise Pedestrians with Darker Skin Tones原评论 ↗
引用klyrs · 2019-08

“For example, this 2019 paper:”

引用这篇 2019 年论文,说明检测器对深肤色行人表现更差
How to Teach an Iris Scanner That the Eye It’s Looking at Is Dead原评论 ↗
被提交为 story · 1 次