按年被提到
20212021 · 6 次2026
AI 安全、伦理与社会影响›算法偏见与监控·arXiv:2107.10356 · cs.CV

Reading Race: AI Recognises Patient's Racial Identity In Medical Images

读取种族:AI 能从医学影像中识别患者的种族身份
Imon Banerjee, Ananth Reddy Bhimireddy, John L. Burns, Leo Anthony Celi, Li-Ching Chen, Ramon Correa, Natalie Dullerud, Marzyeh Ghassemi, Shih-Cheng Huang, Po-Chih Kuo, Matthew P Lungren, Lyle Palmer 等 23 人 · 2021

深度学习能从医学影像预测自述种族,即使影像被裁剪加噪

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 6 人首次 2021-08-09 · 最近 2021-12-11
6不同的人
3活跃月份
5讨论串
661被引(OpenAlex)

研究表明,标准深度学习模型能在多种医学影像模态上以高精度预测自述种族,在外部验证以及针对临床任务优化模型时依然成立;这并非由疾病分布等简单代理变量造成,且在所有解剖区域和频谱上都存在。作者强调模型能预测种族本身并非问题所在,关键在于临床专家做不到这一点,因此给医学影像模型的部署带来巨大风险,缓解也将很困难。

HN 为什么提它

评论者围绕其可信度争论:有人认为作者不太可能犯基本的 ML 错误,也有人批评它可能只是检测到不同设备和操作规程的差异,或只是做了些简单的图像处理。

实证研究难度 3 / 5约 35 分钟经得起时间
读之前最好知道
1深度学习与医学影像
2算法公平性与偏差
3混杂变量与代理变量
4外部验证

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐hgial · 2021-09

“It's unlikely they're making an elementary ML mistake here.”

推荐,认为作者不太可能犯基本的 ML 错误,为论文方法辩护
AI Recognises Race in Medical Images原评论 ↗
批评bArray · 2021-08

“What it appears they are detecting is the difference between different machines and practices.”

AI has the worst superpower medical racism原评论 ↗
批评OneEyedRobot · 2021-09

“The paper is mostly applying trivial image processing functions and seeing how some software they don't understand is responding.”

AI Recognises Race in Medical Images原评论 ↗
引用kthejoker2 · 2021-12

“A conceptually related finding that computer vsion models can effectively classify patient race from significantly noised x-ray images”

补充概念相关的发现:视觉模型能从大量加噪的 X 光片中分类患者种族
Training computer vision models on random noise instead of real images原评论 ↗
被提交为 story · 2 次